Facebook "khai tử" một hệ thống AI tự phát triển ngôn ngữ riêng
Theo Digital Journal, các nhà khoa học của Facebook mới đây đã dừng nghiên cứu phát triển một hệ thống trí tuệ nhân tạo (AI) sau khi họ phát hiện ra hệ thống này không còn luyện tập tiếng Anh và thay vào đó, nó tự phát triển một hệ thống từ mã giao tiếp riêng.
Việc hệ thống AI tự tạo ra ngôn ngữ giao tiếp riêng cho phép nó giao tiếp với một hệ thống AI khác mà các nhà khoa học không thể biết được chúng đang chia sẻ gì với nhau.
Điều này gợi lên trong suy nghĩ của các nhà khoa học Facebook về cảnh báo máy móc có thể nổi lên và quay lưng lại với con người.
Trong một lần trao đổi, hai chương trình AI mà Facebook đang phát triển là Bob và Alice đã từ bỏ các quy tắc ngữ pháp tiếng Anh và bắt đầu giao tiếp bằng cách sử dụng ngôn ngữ mà chúng tạo thành. Bob đã ném mọi thứ bằng cách nói rằng, "I can i i everything else" (Tôi có thể tôi tất cả mọi thứ khác), điều này nhắc nhở Alice trả lời, "balls have zero to me to me to me..." (các quả bóng có không cho tôi cho tôi cho tôi..." Cuộc trò chuyện này tiếp tục theo cách đó.
Các nhà khoa học Facebook cảnh báo máy móc có thể nổi lên và quay lưng lại với con người.
Bên dưới đây là một đoạn hội thoại giữa 2 tác nhân tên Bob và Alice được Facebook dùng để minh họa cho ngôn ngữ mới của AI.
Ngôn ngữ mới của AI.
Các nhà nghiên cứu tin rằng sự trao đổi này đại diện cho nhiều thứ chứ không chỉ là một loạt những điều vô nghĩa, đó chỉ là những gì xuất hiện trên bề mặt. Họ lưu ý rằng việc lặp lại các từ và cụm từ như "i" và "to me" là dấu hiệu cho thấy AI hoạt động như thế nào. Trong cuộc trò chuyện đặc biệt này, họ tin rằng các chương trình đang thảo luận về số lượng mỗi phần việc mà chúng nên thực hiện.
Các công nghệ AI sử dụng hệ thống "khen thưởng" trong đó chúng mong đợi một hành động có "lợi ích".
Dhruv Batra, một nhà nghiên cứu thuộc Viện Công nghệ Georgia Tech, người đã từng làm việc tại Facebook AI Research (FAIR), nói với Fast Co. Design rằng: "Không có phần thưởng nào liên quan đến tiếng Anh. "Các chương trình này sẽ quên dần những ngôn ngữ dễ hiểu và sáng tạo ra các từ mã cho bản thân chúng. Nếu như tôi nói "the" năm lần, điều đó nghĩa là tôi muốn 5 bản sao của mục này, không khác gì cách cộng đồng con người tạo ra các ký tự".
Facebook muốn các chương trình AI nói chuyện bằng tiếng Anh đơn giản, như là một phần tạo ra các các chương trình giao tiếp tự động với người dùng mạng xã hội. Tuy nhiên, các nhà khoa học tại mạng xã hội lớn nhất thế giới thừa nhận các chương trình AI mà họ đang phát triển dường như đi chệch quy đạo khi tạo ra các ngôn ngữ khó hiểu. Và đây chính là lý do khiến các nhà khoa học phải dừng phát triển hệ thống AI.