Vì sao AI chưa thể phân biệt giới tính con người?

Dữ liệu hình ảnh của người chuyển giới khan hiếm khiến các nhà phát triển gặp khó khi xây dựng AI phân biệt giới tính con người.

Washington và hơn 10 tiểu bang khác tại Mỹ sẽ sớm cung cấp tùy chọn giới tính thứ ba "X" trên bằng lái xe. Các hãng hàng không như United Airlines đã cho phép khách hàng chọn đại từ nhân xưng "X" hoặc "Mx". Trên Instagram, hơn 16 triệu bài đăng được gắn thẻ người chuyển giới (transgender).

Vì sao AI chưa thể phân biệt giới tính con người?
AI phân biệt giới tính chỉ hoạt động hiệu quả với những người có ngoại hình nam, nữ điển hình và trong độ tuổi từ 25 đến 35. (Ảnh: CNN).

Trước thay đổi của xã hội, hệ thống AI phân biệt giới tính đang làm dấy lên lo lắng, đặc biệt trong cộng đồng người chuyển giới, về rủi ro khi công nghệ này được sử dụng cho mục đích nhạy cảm hơn, như truy nã tội phạm hay sàng lọc ứng cử viên.

Loading...

Theo CNN, trí tuệ nhân tạo (AI) phân biệt giới tính tồn tại lỗ hổng không nằm ở phần mềm. Trang tin này trích lời Os Keyes, nghiên cứu sinh chuyển giới tại Đại học Washington, rằng phần mềm chỉ củng cố cho hệ thống xây dựng dựa trên tiêu chuẩn về giới tính của nhà phát triển.

Nhiều chuyên gia về AI cũng bày tỏ lo ngại công nghệ này ảnh hưởng xấu, do dự đoán nhầm giới tính của người chuyển giới, cũng như những người không có ngoại hình nam hoặc nữ điển hình. "Chúng ta nên cân nhắc giả định về người có cơ thể, khuôn mặt, mái tóc hoặc phong cách không thể hiện đúng trạng thái cảm xúc hay giới tính của họ", Mederith Whittaker, cựu nhân viên Google, đồng thời là đồng sáng lập Viện nghiên cứu AI Now thuộc Đại học New York, phát biểu.

Thiếu sót của AI phân biệt giới tính

Hầu hết AI có khả năng xác định giới tính hiện nay của Microsoft, Amazon hay IBM đều là hệ phân loại nhị phân. Kết quả chỉ có thể là nam giới hoặc nữ giới, dựa vào thuật toán nhận diện khuôn mặt và các đặc điểm nhận diện khác, như trang điểm, đeo kính... Gần đây, Amazon đã giới thiệu về ứng dụng của AI dự đoán giới tính, giúp chủ cửa hàng phân loại và thống kê lượng khách hàng nam, nữ qua video an ninh.

Kyle Martinowich, Giám đốc tiếp thị của start-up nghiên cứu về AI phân biệt giới tính Clarifai, cho biết, phần lớn khách hàng của công ty là cửa hàng bán lẻ. "Chính phủ Mỹ cũng sử dụng công nghệ này để thu thập thông tin về số lượng nam, nữ tại sân bay hay ra vào các tòa nhà liên bang", Martinowich nói.

Vì sao AI chưa thể phân biệt giới tính con người?
AI nhận diện nhầm Morgan Klaus Scheuerman là nam giới, thay vì nữ giới như giới tính thật của cô. (Ảnh: CNN).

Kết quả nghiên cứu của Morgan Klaus Scheuerman , nghiên cứu sinh thuộc Đại học Colorada cho thấy AI phân biệt giới tính còn tồn tại nhiều hạn chế. Ví dụ, tỷ lệ chính xác giảm đáng kể khi hệ thống phải xác định giới tính của người chuyển giới.

Sau khi phân tích bằng hệ thống nhận diện khuôn mặt của Microsoft , Amazon, IBM và Clarifai, kết quả cho thấy có 98% trường hợp xác định đúng nữ giới, 97,6% trường hợp xác định đúng nam giới. Tuy nhiên, chỉ có 87,5% bức ảnh gắn thẻ "người chuyển giới nữ" được dự đoán là nữ giới và 70% bức ảnh gắn thẻ "người chuyển giới nam" được xác định là nam giới.

Theo Scheuerman, kết quả nghiên cứu cho thấy các nhà phát triển đã không sử dụng hình ảnh người chuyển giới để đào tạo cho AI. Bất kể mục đích của nhà phát triển, việc thiếu hụt dữ liệu đào tạo đầu vào có thể khiến hệ thống làm việc "thiếu khách quan".

Vì sao AI chưa thể phân biệt giới tính con người?
AI phân biệt giới tính Amazon Rekcognition nhiều lần dự đoán nhầm giới tính của phụ nữ da màu. (Ảnh: Amazon).

Thông thường, AI nhận diện khuôn mặt và phân biệt giới tính thường được ứng dụng bởi cảnh sát hoặc trong các cửa hàng. Quy trình triển khai hiếm khi được điều chỉnh hoặc tiết lộ công khai.

Hơn nữa, công nghệ không phải lúc nào cũng được dùng theo mục đích ban đầu của nhà phát triển. Ví dụ, Amazon tuyên bố trong hướng dẫn sử dụng Rekognition rằng "không được thiết kế để phân loại giới tính con người". Tuy nhiên, Woo, ứng dụng hẹn hò tại Ấn Độ, vẫn đang sử dụng Rekognition để kiểm tra giới tính mà người dùng khai báo trong hồ sơ và đề xuất ghép cặp dựa trên ảnh đại diện.

Có nên đặt niềm tin vào AI phân biệt giới tính

Vì sao AI chưa thể phân biệt giới tính con người?
Các công ty công nghệ vẫn đang nỗ lực để cải thiện hiệu quả của AI phân biệt giới tính. (Ảnh: CNN)

Bất chấp lo ngại về đạo đức, các doanh nghiệp vẫn tin tưởng dữ liệu giới tính chính xác sẽ đem lại giá trị nhất định. Cuối cùng, thay vì từ bỏ, một số công ty đang vật lộn tìm cách cải thiện khả năng dự đoán của AI.

Limbik, start-up có trụ sở ở New York, đang phát triển công nghệ phân tích video để xác định nội dung thu hút người xem. Công ty đã chuyển từ AI của Amazon sang AI của IBM để xác định giới tính người và tần suất nam giới xuất hiện trong một số loại hình quảng cáo.

Zach Schwitzky, Giám đốc điều hành của Limbik, cho biết công ty đã phải "vật lộn với hệ thống phân loại nhị phân". Hai vấn đề phổ biến nhất của AI phân biệt giới tính là hệ thống nhận diện nhầm phụ nữ tóc ngắn là "nam giới", cũng như giới tính của thanh thiếu niên. Theo Schwitzky, AI chỉ hoạt động hiệu quả nhất đối với những người từ 25 đến 35 tuổi.

Hiện tại, Limbik đang xây dựng AI mới có khả năng phân loại giới tính thành ba loại: nam giới, nữ giới và giới tính khác. Ban đầu, các nhân viên của công ty sẽ phải sắp xếp thủ công ảnh chân dung từ các trang web như Facebook, Twitter, Instagram... vào đúng danh mục để huấn luyện AI.

Aaron Smith, Giám đốc phòng thí nghiệm của Trung tâm nghiên cứu Pew, nhận định giải pháp xác định đúng giới tính và bản sắc giới là "chủ đề được quan tâm đặc biệt" của các chuyên gia nghiên cứu về AI. Tuy nhiên, ông cũng không chắc chắn liệu công nghệ tương lai có thể giúp phân biệt chính xác giới tính hay không, đồng thời AI vẫn có thể đưa ra kết quả sai nếu chỉ đánh giá qua một người ngoại hình.

Loading...
TIN CŨ HƠN
AI dự đoán thời điểm tử vong chính xác hơn cả bác sĩ

AI dự đoán thời điểm tử vong chính xác hơn cả bác sĩ

Ngay cả những tác giả tạo ra AI cũng không biết vì sao nó lại có khả năng phi thường này.

Đăng ngày: 14/11/2019
Thuỵ Sĩ dùng trí tuệ nhân tạo dự báo sét

Thuỵ Sĩ dùng trí tuệ nhân tạo dự báo sét

Theo Climate and Atmospheric Science, các khoa học từ Lausanne,Thuỵ Sĩ, đã phát triển một hệ thống máy học đơn giản, có thể dự báo sét 30 phút trước khi xảy ra, chỉ dựa vào dữ liệu thời tiết thông thường.

Đăng ngày: 12/11/2019
Chiếc áo thun cực

Chiếc áo thun cực "ngầu" này sẽ giúp bạn "vô hình" trước AI

Những thiết kế ảo giác này có thể in trên áo thun để đánh lừa các hệ thống nhận dạng danh tính.

Đăng ngày: 11/11/2019
Con robot này muốn “mượn” khuôn mặt của bạn với giá 130.000 USD

Con robot này muốn “mượn” khuôn mặt của bạn với giá 130.000 USD

Bạn có chấp nhận cấp phép sử dụng...khuôn mặt của chính mình để có được một con robot song sinh hay không?

Đăng ngày: 26/10/2019
Những ứng dụng thiết thực của AI trong cuộc sống

Những ứng dụng thiết thực của AI trong cuộc sống

Không chỉ tạo ra cơn sốt về công nghệ, AI còn đặt viên gạch đầu tiên cho một kỷ nguyên máy móc, từng bước thay thế con người thực hiện những công việc từ đơn giản cho tới không tưởng.

Đăng ngày: 27/09/2019
Trí tuệ nhân tạo chẩn đoán bệnh chính xác như bác sĩ

Trí tuệ nhân tạo chẩn đoán bệnh chính xác như bác sĩ

AI có thể phân tích triệu chứng chẩn đoán chính xác 87% ca bệnh, 93% trường hợp hết bệnh, tỷ lệ này với bác sĩ là 86% và 91%.

Đăng ngày: 26/09/2019
Việt Nam có thể cảnh báo sớm ung thư gan nhờ công nghệ AI

Việt Nam có thể cảnh báo sớm ung thư gan nhờ công nghệ AI

Đại học Bách khoa Hà Nội đang nghiên cứu hệ thống hỗ trợ chẩn đoán ung thư gan dựa trên dữ liệu về hình ảnh siêu âm và giải trình gene.  - VnExpress

Đăng ngày: 16/08/2019
Tiêu điểm
Khoa Học News