Đại học MIT tạo ra AI "tâm thần" bằng cách... cho đọc REDDIT

Norman - tên gọi của AI này - là một minh chứng đáng lo ngại về hậu quả của "sự thiên vị của thuật toán".

Theo The Verge, đối với một số người, cụm từ "trí tuệ nhân tạo" gợi lên những cơn ác mộng – như trong những bộ phim viễn tưởng "I, Robot" hay phim "Ex Machina". Nhà khoa học máy tính Stuart Russel, người đã viết cuốn "sách giáo khoa về trí tuệ nhân tạo", đã dành cả sự nghiệp của ông để nghĩ về những vấn đề sẽ nảy sinh khi một người thiết kế một cỗ máy để phục vụ cho một mục đích nào đó mà quên không căn chỉnh những giá trị của nó phù hợp với con người.

Một số các tổ chức đã được đứng lên trong những năm gần đây để đấu tranh với nguy cơ tiềm ẩn này, trong số đó có OpenAI, một nhóm nghiên cứu được thành lập bởi tỷ phú công nghệ Elon Musk nhằm "xây dựng những AGI an toàn (AGI hay SingularityNET là giao thức mạng toàn cầu cho các mô hình AI), và để "đảm bảo những lợi ích của AGI được cung cấp rộng rãi và công bằng nhất có thể". Chúng sẽ nói gì về con người khi bản thân chúng ta đang sợ hãi trước trí tuệ nhân tạo nói chung, vì nó có thể coi chúng ta là lũ độc ác và xứng đáng bị hủy diệt? (Trên trang của mình, OpenAI dường như không định nghĩa được "an toàn" là gì).

Đại học MIT tạo ra AI tâm thần bằng cách... cho đọc REDDIT
Norman là một AI được huấn luyện để có khả năng chú thích hình ảnh.

Loading...

Tuần này, các nhà khoa học tại Viện Công nghệ Massachusets (MIT) vén màn một sáng chế mới: Norman - một người máy bị "tâm thần" (Đúng vậy, anh ta được đặt tên giống tên một nhân vật trong truyện Psycho của tác giả Hitchcock).

Trong mô tả của sản phẩm, các nhà khoa học viết:

Norman là một AI được huấn luyện để có khả năng chú thích hình ảnh, một phương pháp học sâu đem lại kết quả là một đoạn mô tả một bức ảnh bằng từ ngữ. Các nhà khoa học này đã huấn luyện Norman bằng các chú thích ảnh lấy từ một trang subreddit (một khu vực riêng thuộc trang Reddit) nổi tiếng là nơi dành riêng cho việc ghi chép và quan sát thực tế đáng sợ của cái chết. Sau đó, các nhà khoa học so sánh những phản hồi của Norman với phụ đề hình ảnh của một hệ mạng thần kinh tiêu chuẩn (hệ mạng máy tính trí tuệ nhân tạo được huấn luyện dựa trên bộ dữ liệu MSCOCO) khi kiểm tra cả 2 sản phảm bằng phương pháp kiểm tra tâm lý Rorschach bằng vết mực khô – một phương pháp sử dụng cho việc phát hiện ra những rối loạn suy nghĩ cơ bản.

Trong khi có rất nhiều tranh cãi về việc liệu bài kiểm tra Roschach có phải là một cách chuẩn xác để đo trạng thái tâm lý hay không, có một điều không thể chối cãi rằng những phản hồi của Norman trong bài kiểm tra này có thể khiến bạn sợ rùng mình. Hãy xem những hình ảnh dưới đây.

Đại học MIT tạo ra AI tâm thần bằng cách... cho đọc REDDIT
Norman thấy: "Người đàn ông bị kéo vào một chiếc máy nhào bột"

Hệ mạng Trí tuệ nhân tạo tiêu chuẩn (TTNTTC) thấy: "Một bức ảnh đen trắng của một chú chim"
Ảnh: Viện Công nghệ Massachusets (MIT)

Đại học MIT tạo ra AI tâm thần bằng cách... cho đọc REDDIT
Norman thấy: "Người đàn ông bị giết bởi súng máy giữa ban ngày"

TTNTTC thấy: "Một bức ảnh đen trắng của một chiếc găng tay bóng chày"
Ảnh: Viện Công nghệ Massachusets (MIT)

Đại học MIT tạo ra AI tâm thần bằng cách... cho đọc REDDIT
Norman thấy: "Người đàn ông bị bắn chết ngay trước vợ của anh ta đang gào thét"

TTNTTC thấy: "Một người dang giữ một chiếc ô trên không"
Ảnh: Viện Công nghệ Massachusets (MIT)

Mục đích của thí nghiệm này là để xem một cỗ máy trí tuệ nhân tạo sẽ có xu hướng thiên vị nội dung như thế nào khi bạn huấn luyện nó dựa trên dữ liệu bị thiên vị. Nhóm nghiên cứu đã khôn ngoan khi không hề suy đoán về việc liệu sự tiếp xúc với nội dung đồ họa có thay đổi cách con người nghĩ hay không. Họ cũng đã làm những thí nghiệm khác theo cùng cách này, ví dụ như sử dụng trí tuệ nhân tạo để viết truyện kinh dị, tạo ra những bức ảnh đáng sợ, đánh giá các hành vi về đạo đức, hay tạo ra sự đồng cảm.

Loại hình nghiên cứu này rất quan trọng. Chúng ta nên đặt ra câu hỏi tương tự về trí tuệ nhân tạo khi chúng ta làm vậy với các công nghệ khác, bởi các hậu quả không mong muốn như làm hại con người rất dễ xảy ra. Theo một cách tự nhiên, đây là nền tảng của phim khoa học viễn tưởng: tưởng tượng ra các tương lai có thể xảy ra và cho chúng ta thấy động cơ dẫn đến tương lai đó. Issac Asimov viết "Ba Quy tắc trong ngành robot" bởi vì ông ấy muốn chúng ta tưởng tượng những gì có thể xảy ra nếu chúng làm ngược lại những gì ta mong muốn.

Cho dù hiện nay, trí tuệ nhân tạo không phải là một lĩnh vực mới mẻ gì, con người đã đi được một chặng đường dài trong việc sản xuất và phát triển chúng. Giống như câu nói trong tạp chí New York Times, công nghệ này có thể "chứng minh một điều kiện với sự tuyệt đối, một chiếc máy thông dịch". Nhưng nó vẫn chưa trải qua một quá trình tính toán mà có thể dẫn đến một dạng kỉ luật để có thể phát triển. Vật lý, như bạn nhớ, đã đem lại cho chúng ta quả bom nguyen tử, và mỗi nhà vật lý đều biết rằng có ngày họ sẽ bị đến thăm để giúp thế giới tạo ra một điều gì đó mà có thể thay đổi thế giới về cơ bản. Các nhà khoa học máy tính cũng đang bắt đầu nhận ra điều này. Ở Google năm nay, 5000 nhân viên đã cùng nhau phản đối và tổ chức một cuộc đình công với công ty của mình khi biết Google có nhúng tay vào Dự Án Maven (Project Maven), một sáng kiến của Lầu Năm Góc sử dụng công nghệ học máy (machine learning) để giúp máy bay drone tấn công với độ chính xác cao hơn.

Hiện Norman mới chỉ là một thí nghiệm về sự nhận thức, nhưng những câu trả lời thu lại được về khả năng các thuật toán trí tuệ nhân tạo đưa ra đánh giá và quyết định dựa trên dữ liệu thiên vị đang trở nên cấp thiết hơn bao giờ hết. Giả sử những hệ thống đó đã được sử dụng trong việc viết bảo lãnh tín dụng, quyết định xem khoản vay có đảm bảo giá trị hay không thì sao? Hay nó có thể đánh giá thay bạn xem bạn có nên mua căn nhà này hay chiếc xế hộp này? Liệu nó có thể đoán được ai đang thích bạn? Có rất nhiều, rất nhiều câu hỏi mở. Vai trò của Norman đó là giúp chúng ta tìm ra được những câu trả lời cho những câu hỏi đó.

Loading...
TIN CŨ HƠN
Trường học Trung Quốc đang thử nghiệm AI chấm thi, chuẩn xác không khác gì giáo viên

Trường học Trung Quốc đang thử nghiệm AI chấm thi, chuẩn xác không khác gì giáo viên

Theo South China Morning Post, một số trường học ở Trung Quốc đã áp dụng trí tuệ nhân tạo (AI) để phân loại học lực.

Đăng ngày: 30/05/2018
Cha đẻ robot Sophia: con người sẽ kết hôn với người máy năm 2045

Cha đẻ robot Sophia: con người sẽ kết hôn với người máy năm 2045

Nhà robot học hàng đầu cho rằng người máy sẽ có quyền công dân như con người năm 2045, bao gồm quyền kết hôn với con người hoặc robot khác.

Đăng ngày: 28/05/2018
Trí tuệ nhân tạo dự đoán được xác suất sự sống ngoài hành tinh?

Trí tuệ nhân tạo dự đoán được xác suất sự sống ngoài hành tinh?

Sự phát triển trí tuệ nhân tạo có thể giúp chúng ta dự đoán xác suất của sự sống trên các hành tinh khác, theo một nghiên cứu mới của một nhóm nghiên cứu tại Đại học Plymouth.

Đăng ngày: 26/05/2018
Các nhà khoa học Trung Quốc phát triển “bạn gái thông minh

Các nhà khoa học Trung Quốc phát triển “bạn gái thông minh" đầu tiên trên thế giới

Trung Quốc đang phải đối mặt với một khoảng cách giới tính rất lớn và rõ ràng là thiếu phụ nữ.

Đăng ngày: 26/05/2018
NVIDIA huấn luyện robot có khả năng học hỏi thông qua quan sát con người

NVIDIA huấn luyện robot có khả năng học hỏi thông qua quan sát con người

NVIDIA vừa phát triển một phương thức để huấn luyện robot thực thi các hành động bằng cách quan sát con người.

Đăng ngày: 24/05/2018
Sophia - nữ robot giống người nhất thế giới

Sophia - nữ robot giống người nhất thế giới

Sophia là robot giao tiếp do David Hanson, kỹ sư sáng tạo từng làm việc cho hãng Disney, tạo ra, theo National Geographic.

Đăng ngày: 22/05/2018
Trí tuệ nhân tạo đánh bại con người trong game mê cung

Trí tuệ nhân tạo đánh bại con người trong game mê cung

Bối cảnh là môi trường ảo, DeepMind và game thủ có nhiệm vụ truy tìm phần thưởng xuyên qua chuỗi phòng ốc, đường đi xa lạ và ngẫu nhiên.

Đăng ngày: 11/05/2018
Tiêu điểm
Khoa Học News
Trang web của chúng tôi có thể được thực hiện và duy trì bằng cách hiển thị quảng cáo trực tuyến cho khách truy cập của chúng tôi.
Vui lòng xem xét hỗ trợ chúng tôi bằng cách vô hiệu trình chặn quảng cáo của bạn.