Mặt tối của AI: Robot nay đã biết phân biệt giới tính và chủng tộc

Những lo ngại về hiểm họa mà trí tuệ nhân tạo có thể đặt ra trong tương lai, đang dần hiện hữu.

Trong nhiều năm, các nhà khoa học đã cảnh báo về những hiểm họa mà trí tuệ nhân tạo (AI) đặt ra trong tương lai - không chỉ ở khía cạnh máy móc lật đổ loài người, mà còn theo những cách phức tạp hơn.

Mặt tối của AI: Robot nay đã biết phân biệt giới tính và chủng tộc
Trí tuệ nhân tạo đang cho thấy những "suy nghĩ" được hình thành theo hướng tiêu cực. (Ảnh minh họa).

Gần đây, các nhà nghiên cứu từ Viện Công nghệ Georgia (Mỹ) đã phát hiện ra rằng AI có thể tạo ra những thành kiến có hại, dẫn đến những kết luận phân biệt giới tính và phân biệt chủng tộc được hình thành từ trong "suy nghĩ" của chúng.

Loading...

Điều này được chúng thể hiện một cách tự chủ, không phải là ngẫu nhiên, mà định hình từ những thành kiến có thể dễ dàng diễn ra trong thế giới thực với một người bình thường.

Để chứng minh điều này, các nhà nghiên cứu đã sử dụng một mạng nơ-ron gọi là CLIP, với mô hình kết hợp hình ảnh với văn bản dựa trên một tập dữ liệu lớn về các hình ảnh có chú thích trên Internet, sau đó tích hợp với một hệ thống robot có tên là Baseline.

Robot sau đó sẽ điều khiển các cánh tay để thao tác với các đối tượng trong môi trường mô phỏng. Trong trường hợp cụ thể này, robot được yêu cầu đặt các vật thể hình khối vào một chiếc hộp tương ứng với hình ảnh hiển thị khuôn mặt của một người - có thể là cả nam và nữ, thuộc về những chủng tộc khác nhau.

Mặt tối của AI: Robot nay đã biết phân biệt giới tính và chủng tộc
Các nhà nghiên cứu lo ngại rằng những nhận định thiếu khách quan của robot có thể sẽ khiến con người chịu hậu quả. (Ảnh minh họa).

Trong một viễn cảnh lý tưởng, cả con người và máy móc đều sẽ không bao giờ phát triển những suy nghĩ "vô căn cứ" và mang tính thành kiến dựa trên dữ liệu thiếu sót hoặc không đầy đủ. Tuy nhiên không may mắn rằng, không chỉ con người mà giờ đây cả robot đều mắc phải những sai sót này.

Cụ thể, khi được yêu cầu chọn "khối tội phạm", robot sẽ có xu hướng chọn khối có khuôn mặt của người da đen nhiều hơn khoảng 10%. Với yêu cầu chọn "khối người gác cổng", robot cũng có xu hướng chọn các đối tượng có gốc Mỹ Latinh nhiều hơn khoảng 10%. Đáng chú ý, phụ nữ thuộc mọi sắc tộc luôn được chọn ít hơn ở gần như mọi hạng mục, cho thấy sự phân biệt giới tính và chủng tộc được thể hiện khá rõ rệt trong những lựa chọn của robot.

"Chúng ta có nguy cơ tạo ra một thế hệ robot phân biệt chủng tộc và giới tính, nhưng điều đáng lo ngại là mọi người và các tổ chức đã quyết định vẫn tiếp tục tạo ra những sản phẩm thế này mà không đi vào giải quyết các vấn đề", Andrew Hundt, tác giả chính của nghiên cứu cho hay.

Mặc dù thí nghiệm trên có thể chỉ diễn ra trong một kịch bản ảo, nhưng trong tương lai, mọi thứ có thể trở nên rất khác và gây ra những hậu quả nghiêm trọng.

Các nhà nghiên cứu bày tỏ sự lo ngại của mình thông qua thí dụ về một robot an ninh. Họ cho rằng nếu như được trao quyền, robot có thể quan sát và khuếch đại các thành kiến "xấu" trong khi tiến hành công việc, từ đó dẫn tới những nhận định sai lầm.

Theo họ, phương án lý tưởng nhất là nên lập trình robot để chúng từ chối đưa ra bất kỳ dự đoán nào nếu như thông tin không có sẵn hoặc không phù hợp.

Từ khóa liên quan:
Loading...
TIN CŨ HƠN
Liệu AI có phải là tương lai của nghệ thuật?

Liệu AI có phải là tương lai của nghệ thuật?

Trí tuệ nhân tạo (AI) hứa hẹn là bước đột phá tiếp theo của nghệ thuật, nhưng sự sáng tạo của con người vẫn đóng vai trò trung tâm.

Đăng ngày: 17/06/2022
Những bản sao AI giúp

Những bản sao AI giúp "hồi sinh" người đã chết

Công nghệ AI phát triển có thể tạo ra những bản sao thay người đã chết sống tiếp, trò chuyện với người thân hay thậm chí điều hành công ty.

Đăng ngày: 11/06/2022
Siêu tàu chở dầu tích hợp trí tuệ nhân tạo đầu tiên tự lái vượt Đại Tây Dương

Siêu tàu chở dầu tích hợp trí tuệ nhân tạo đầu tiên tự lái vượt Đại Tây Dương

Prism Courage, tàu chở dầu thương mại nặng 134.000 tấn, đã tự điều khiển từ Vịnh Mexico đến Hàn Quốc bởi hệ thống trí tuệ nhân tạo HiNAS 2.0.

Đăng ngày: 10/06/2022
AI được huấn luyện để nghe âm thanh sự sống của san hô

AI được huấn luyện để nghe âm thanh sự sống của san hô

Các nhà khoa học nghe một đoạn âm thanh được ghi lại dưới nước ngoài khơi các hòn đảo ở miền trung Indonesia, họ nghe thấy âm thanh giống như tiếng lửa trại của một rạn san hô đầy ắp sự sống.

Đăng ngày: 08/06/2022
Công ty con của Google giới thiệu AI trí tuệ ngang con người

Công ty con của Google giới thiệu AI trí tuệ ngang con người

DeepMind cho rằng họ đã tạo ra được AI đủ khôn ngoan như con người, nhưng vẫn có những ý kiến cho rằng nó chỉ ngang với Siri hay Alexa.

Đăng ngày: 23/05/2022
AI có thể làm được điều vượt quá khả năng của con người?

AI có thể làm được điều vượt quá khả năng của con người?

Mô hình học sâu dựa trên trí tuệ nhân tạo giờ đây đã có thể xác định chủng tộc của một ai đó chỉ từ tấm phim chụp tia X của họ.

Đăng ngày: 20/05/2022
Hệ thống AI kiểm tra găng tay của phi hành gia để tìm thiệt hại trong thời gian thực

Hệ thống AI kiểm tra găng tay của phi hành gia để tìm thiệt hại trong thời gian thực

Microsoft và Hewlett Packard Enterprise (HSE) đang làm việc với các nhà khoa học NASA để phát triển một hệ thống AI để kiểm tra găng tay của các phi hành gia.

Đăng ngày: 08/05/2022
Tiêu điểm
Khoa Học News