Facebook "khai tử" một hệ thống AI tự phát triển ngôn ngữ riêng

Theo Digital Journal, các nhà khoa học của Facebook mới đây đã dừng nghiên cứu phát triển một hệ thống trí tuệ nhân tạo (AI) sau khi họ phát hiện ra hệ thống này không còn luyện tập tiếng Anh và thay vào đó, nó tự phát triển một hệ thống từ mã giao tiếp riêng.

Việc hệ thống AI tự tạo ra ngôn ngữ giao tiếp riêng cho phép nó giao tiếp với một hệ thống AI khác mà các nhà khoa học không thể biết được chúng đang chia sẻ gì với nhau.

Điều này gợi lên trong suy nghĩ của các nhà khoa học Facebook về cảnh báo máy móc có thể nổi lên và quay lưng lại với con người.

Trong một lần trao đổi, hai chương trình AI mà Facebook đang phát triển là Bob và Alice đã từ bỏ các quy tắc ngữ pháp tiếng Anh và bắt đầu giao tiếp bằng cách sử dụng ngôn ngữ mà chúng tạo thành. Bob đã ném mọi thứ bằng cách nói rằng, "I can i i everything else" (Tôi có thể tôi tất cả mọi thứ khác), điều này nhắc nhở Alice trả lời, "balls have zero to me to me to me..." (các quả bóng có không cho tôi cho tôi cho tôi..." Cuộc trò chuyện này tiếp tục theo cách đó.


Các nhà khoa học Facebook cảnh báo máy móc có thể nổi lên và quay lưng lại với con người.

Bên dưới đây là một đoạn hội thoại giữa 2 tác nhân tên Bob và Alice được Facebook dùng để minh họa cho ngôn ngữ mới của AI.


Ngôn ngữ mới của AI.

Các nhà nghiên cứu tin rằng sự trao đổi này đại diện cho nhiều thứ chứ không chỉ là một loạt những điều vô nghĩa, đó chỉ là những gì xuất hiện trên bề mặt. Họ lưu ý rằng việc lặp lại các từ và cụm từ như "i""to me" là dấu hiệu cho thấy AI hoạt động như thế nào. Trong cuộc trò chuyện đặc biệt này, họ tin rằng các chương trình đang thảo luận về số lượng mỗi phần việc mà chúng nên thực hiện.

Các công nghệ AI sử dụng hệ thống "khen thưởng" trong đó chúng mong đợi một hành động có "lợi ích".

Dhruv Batra, một nhà nghiên cứu thuộc Viện Công nghệ Georgia Tech, người đã từng làm việc tại Facebook AI Research (FAIR), nói với Fast Co. Design rằng: "Không có phần thưởng nào liên quan đến tiếng Anh. "Các chương trình này sẽ quên dần những ngôn ngữ dễ hiểu và sáng tạo ra các từ mã cho bản thân chúng. Nếu như tôi nói "the" năm lần, điều đó nghĩa là tôi muốn 5 bản sao của mục này, không khác gì cách cộng đồng con người tạo ra các ký tự".

Facebook muốn các chương trình AI nói chuyện bằng tiếng Anh đơn giản, như là một phần tạo ra các các chương trình giao tiếp tự động với người dùng mạng xã hội. Tuy nhiên, các nhà khoa học tại mạng xã hội lớn nhất thế giới thừa nhận các chương trình AI mà họ đang phát triển dường như đi chệch quy đạo khi tạo ra các ngôn ngữ khó hiểu. Và đây chính là lý do khiến các nhà khoa học phải dừng phát triển hệ thống AI.

Loading...
TIN CŨ HƠN
Khám phá siêu vật liệu Aerogel của tương lai

Khám phá siêu vật liệu Aerogel của tương lai

Con người luôn đi tìm kiếm và chế tạo ra những vật liệu mới với những tính năng ưu việt trong đó có 'khí đóng băng' Aerogel. Theo những tin khoa học mới gần đây, Aerogel có thể sẽ là loại siêu vật liệu tiềm năng của tương lai.

Đăng ngày: 30/03/2025

"Trí tuệ nhân tạo" AlphaGo là gì mà khiến con người thán phục?

AlphaGo là gì? Tại sao AlphaGo lại được nhiều người quan tâm như vậy? Điều gì đã khiến cho bộ máy nhân tạo AlphaGo chiến thắng một kiện tướng cờ vây nhiều năm kinh nghiệm?

Đăng ngày: 30/03/2025
Điện thoại giúp nhìn xuyên thấu mọi chất liệu

Điện thoại giúp nhìn xuyên thấu mọi chất liệu

Các nhà nghiên cứu tại viện công nghệ UT Dallas mới đây đã biến những chiếc điện thoại cầm tay thành thiết bị giúp người dùng có thể nhìn xuyên thấu mọi chất liệu như tường, gỗ, nhựa, giấy…

Đăng ngày: 16/03/2025
Trung Quốc chế tạo kính nhìn xuyên thấu quần áo

Trung Quốc chế tạo kính nhìn xuyên thấu quần áo

Một nhóm các nhà khoa học Trung Quốc phát triển thiết bị dò siêu nhỏ cho phép nhìn xuyên qua quần áo hoặc một số vật liệu bìa cứng và giấy.

Đăng ngày: 14/03/2025
Tham vọng chế tạo Iron Man của quân đội Mỹ

Tham vọng chế tạo Iron Man của quân đội Mỹ

Bộ Tư lệnh Lực lượng Đặc biệt của Mỹ (SOCOM) hiện đang theo đuổi một chương trình mang tính cách mạng nhằm hỗ trợ năng lực siêu nhân cho binh sĩ trong nhiệm vụ tác chiến.

Đăng ngày: 23/02/2025
Công nghệ tàng hình là gì? Nó hoạt động thế nào?

Công nghệ tàng hình là gì? Nó hoạt động thế nào?

Bạn đã từng nghe đến máy bay tàng hình, tàu ngầm tàng hình nhưng bạn có biết nghĩa của tàng hình ở đây thực sự là gì?

Đăng ngày: 24/01/2025
Công nghệ nano và những ứng dụng của công nghệ nano

Công nghệ nano và những ứng dụng của công nghệ nano

Thuật ngữ công nghệ Nano (nano technology) chỉ việc nghiên cứu, học tập, tổng hợp và sử dụng các loại vật liệu, thiết bị hay kể cả các hệ thống có kích thước cỡ nano (1 phần tỷ mét).

Đăng ngày: 11/01/2025
Tiêu điểm
Khoa Học News