Vì sao AI chưa thể phân biệt giới tính con người?

Dữ liệu hình ảnh của người chuyển giới khan hiếm khiến các nhà phát triển gặp khó khi xây dựng AI phân biệt giới tính con người.

Washington và hơn 10 tiểu bang khác tại Mỹ sẽ sớm cung cấp tùy chọn giới tính thứ ba "X" trên bằng lái xe. Các hãng hàng không như United Airlines đã cho phép khách hàng chọn đại từ nhân xưng "X" hoặc "Mx". Trên Instagram, hơn 16 triệu bài đăng được gắn thẻ người chuyển giới (transgender).

AI phân biệt giới tính chỉ hoạt động hiệu quả với những người có ngoại hình nam, nữ điển hình và trong độ tuổi từ 25 đến 35. (Ảnh: CNN).

Trước thay đổi của xã hội, hệ thống AI phân biệt giới tính đang làm dấy lên lo lắng, đặc biệt trong cộng đồng người chuyển giới, về rủi ro khi công nghệ này được sử dụng cho mục đích nhạy cảm hơn, như truy nã tội phạm hay sàng lọc ứng cử viên.

Theo CNN, trí tuệ nhân tạo (AI) phân biệt giới tính tồn tại lỗ hổng không nằm ở phần mềm. Trang tin này trích lời Os Keyes, nghiên cứu sinh chuyển giới tại Đại học Washington, rằng phần mềm chỉ củng cố cho hệ thống xây dựng dựa trên tiêu chuẩn về giới tính của nhà phát triển.

Nhiều chuyên gia về AI cũng bày tỏ lo ngại công nghệ này ảnh hưởng xấu, do dự đoán nhầm giới tính của người chuyển giới, cũng như những người không có ngoại hình nam hoặc nữ điển hình. "Chúng ta nên cân nhắc giả định về người có cơ thể, khuôn mặt, mái tóc hoặc phong cách không thể hiện đúng trạng thái cảm xúc hay giới tính của họ", Mederith Whittaker, cựu nhân viên Google, đồng thời là đồng sáng lập Viện nghiên cứu AI Now thuộc Đại học New York, phát biểu.

Thiếu sót của AI phân biệt giới tính

Hầu hết AI có khả năng xác định giới tính hiện nay của Microsoft, Amazon hay IBM đều là hệ phân loại nhị phân. Kết quả chỉ có thể là nam giới hoặc nữ giới, dựa vào thuật toán nhận diện khuôn mặt và các đặc điểm nhận diện khác, như trang điểm, đeo kính... Gần đây, Amazon đã giới thiệu về ứng dụng của AI dự đoán giới tính, giúp chủ cửa hàng phân loại và thống kê lượng khách hàng nam, nữ qua video an ninh.

Kyle Martinowich, Giám đốc tiếp thị của start-up nghiên cứu về AI phân biệt giới tính Clarifai, cho biết, phần lớn khách hàng của công ty là cửa hàng bán lẻ. "Chính phủ Mỹ cũng sử dụng công nghệ này để thu thập thông tin về số lượng nam, nữ tại sân bay hay ra vào các tòa nhà liên bang", Martinowich nói.

AI nhận diện nhầm Morgan Klaus Scheuerman là nam giới, thay vì nữ giới như giới tính thật của cô. (Ảnh: CNN).

Kết quả nghiên cứu của Morgan Klaus Scheuerman , nghiên cứu sinh thuộc Đại học Colorada cho thấy AI phân biệt giới tính còn tồn tại nhiều hạn chế. Ví dụ, tỷ lệ chính xác giảm đáng kể khi hệ thống phải xác định giới tính của người chuyển giới.

Sau khi phân tích bằng hệ thống nhận diện khuôn mặt của Microsoft , Amazon, IBM và Clarifai, kết quả cho thấy có 98% trường hợp xác định đúng nữ giới, 97,6% trường hợp xác định đúng nam giới. Tuy nhiên, chỉ có 87,5% bức ảnh gắn thẻ "người chuyển giới nữ" được dự đoán là nữ giới và 70% bức ảnh gắn thẻ "người chuyển giới nam" được xác định là nam giới.

Theo Scheuerman, kết quả nghiên cứu cho thấy các nhà phát triển đã không sử dụng hình ảnh người chuyển giới để đào tạo cho AI. Bất kể mục đích của nhà phát triển, việc thiếu hụt dữ liệu đào tạo đầu vào có thể khiến hệ thống làm việc "thiếu khách quan".

AI phân biệt giới tính Amazon Rekcognition nhiều lần dự đoán nhầm giới tính của phụ nữ da màu. (Ảnh: Amazon).

Thông thường, AI nhận diện khuôn mặt và phân biệt giới tính thường được ứng dụng bởi cảnh sát hoặc trong các cửa hàng. Quy trình triển khai hiếm khi được điều chỉnh hoặc tiết lộ công khai.

Hơn nữa, công nghệ không phải lúc nào cũng được dùng theo mục đích ban đầu của nhà phát triển. Ví dụ, Amazon tuyên bố trong hướng dẫn sử dụng Rekognition rằng "không được thiết kế để phân loại giới tính con người". Tuy nhiên, Woo, ứng dụng hẹn hò tại Ấn Độ, vẫn đang sử dụng Rekognition để kiểm tra giới tính mà người dùng khai báo trong hồ sơ và đề xuất ghép cặp dựa trên ảnh đại diện.

Có nên đặt niềm tin vào AI phân biệt giới tính

Các công ty công nghệ vẫn đang nỗ lực để cải thiện hiệu quả của AI phân biệt giới tính. (Ảnh: CNN)

Bất chấp lo ngại về đạo đức, các doanh nghiệp vẫn tin tưởng dữ liệu giới tính chính xác sẽ đem lại giá trị nhất định. Cuối cùng, thay vì từ bỏ, một số công ty đang vật lộn tìm cách cải thiện khả năng dự đoán của AI.

Limbik, start-up có trụ sở ở New York, đang phát triển công nghệ phân tích video để xác định nội dung thu hút người xem. Công ty đã chuyển từ AI của Amazon sang AI của IBM để xác định giới tính người và tần suất nam giới xuất hiện trong một số loại hình quảng cáo.

Zach Schwitzky, Giám đốc điều hành của Limbik, cho biết công ty đã phải "vật lộn với hệ thống phân loại nhị phân". Hai vấn đề phổ biến nhất của AI phân biệt giới tính là hệ thống nhận diện nhầm phụ nữ tóc ngắn là "nam giới", cũng như giới tính của thanh thiếu niên. Theo Schwitzky, AI chỉ hoạt động hiệu quả nhất đối với những người từ 25 đến 35 tuổi.

Hiện tại, Limbik đang xây dựng AI mới có khả năng phân loại giới tính thành ba loại: nam giới, nữ giới và giới tính khác. Ban đầu, các nhân viên của công ty sẽ phải sắp xếp thủ công ảnh chân dung từ các trang web như Facebook, Twitter, Instagram... vào đúng danh mục để huấn luyện AI.

Aaron Smith, Giám đốc phòng thí nghiệm của Trung tâm nghiên cứu Pew, nhận định giải pháp xác định đúng giới tính và bản sắc giới là "chủ đề được quan tâm đặc biệt" của các chuyên gia nghiên cứu về AI. Tuy nhiên, ông cũng không chắc chắn liệu công nghệ tương lai có thể giúp phân biệt chính xác giới tính hay không, đồng thời AI vẫn có thể đưa ra kết quả sai nếu chỉ đánh giá qua một người ngoại hình.