Phát hiện ra AI tuyển dụng "trọng nam khinh nữ", Amazon buộc phải tắt nó đi

Sau nhiều lần tinh chỉnh mà không thành công, Amazon đã từ bỏ dự án tuyển dụng bằng AI của mình.

Theo Reuters, năm 2014, Amazon đã thành lập một nhóm kỹ thuật tại Edinburgh, Scotland với nhiệm vụ tìm cách tự động hóa việc tuyển dụng. Nhóm này đã tạo ra 500 mẫu máy tính để rà soát CV của các ứng viên mà họ tuyển trước đây nhằm lọc ra khoảng 50.000 thuật ngữ chính. Sau đó, hệ thống sẽ tìm kiếm trên web để lựa chọn và đề xuất các ứng viên phù hợp với công việc.

Phát hiện ra AI tuyển dụng trọng nam khinh nữ, Amazon buộc phải tắt nó đi
AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon.

"Theo nghĩa đen, khi đua cho hệ thống này 100 ứng viên, nó sẽ chọn cho bạn 5 ứng viên tốt nhất và chúng tôi sẽ tuyển những người đó", một nguồn tin nội bộ chia sẻ với Reuters.

Tuy nhiên, một năm sau, các kỹ sư của Amazon phát hiện ra hệ thống AI tuyển dụng của họ có một vấn đề khá nghiêm trọng: Nó không thích phụ nữ. Nguyên nhân của vấn đề này là do AI đã phân tích các bản lý lịch được gửi tới cho Amazon trong 10 năm qua để tích lũy dữ liệu về ứng viên.

Dựa trên dữ liệu thu thập được, AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon. Nhóm kỹ thuật phát hiện ra rằng AI đã tự động giảm điểm số của các bản CV có từ phụ nữ và loại các ứng viên từng học hai trường đại học chỉ dành cho nữ sinh.

Các kỹ sư của Amazon đã sửa hệ thống để khắc phục những hình thức thiên vị kể trên. Tuy nhiên, họ sợ rằng AI sẽ tìm ra cách mới để đối xử bất công với các ứng viên.

Phát hiện ra AI tuyển dụng trọng nam khinh nữ, Amazon buộc phải tắt nó đi
Jeff Bezoz - ông chủ của Amazon.

Trọng nam khinh nữ không phải là vấn đề duy nhất với AI tuyển dụng này. Nguồn tin nội bộ chia sẻ với Reuters rằng AI cũng đề xuất các ứng viên không đủ năng lực cho vị trí tuyển dụng.

Sau những tinh chỉnh vất vả, cuối cùng năm ngoái Amazon đã từ bỏ dự án tuyển dụng bằng AI bởi các giám đốc đã mất niềm tin vào nó. Các chuyên gia tuyển dụng của Amazon cũng xem qua danh sách khuyến nghị mà AI cung cấp nhưng không bao giờ dựa hoàn toàn vào nó.

"Các nhà tuyển dụng của Amazon không bao giờ sử dụng cách này để tuyển ứng viên cho các công việc của mình", phát ngôn viên của Amazon tuyên bố.

Loading...
TIN CŨ HƠN
Trong tương lai, số phận của các bệnh nhân hôn mê sẽ do thuật toán máy tính quyết định

Trong tương lai, số phận của các bệnh nhân hôn mê sẽ do thuật toán máy tính quyết định

Khi một người rơi vào trạng thái hôn mê, họ mất toàn bộ các chức năng vận động. Hoạt động não chậm lại đáng kể.

Đăng ngày: 11/10/2018
Chuyên gia: Viễn cảnh robot nổi loạn chống con người đã tới gần

Chuyên gia: Viễn cảnh robot nổi loạn chống con người đã tới gần

Các robot sát thủ có khả năng nổi dậy bạo bực để chống lại loài người đang được bán cho các quốc gia hàng đầu, một chuyên gia hé lộ với Daily Star Online.

Đăng ngày: 10/10/2018
Trí tuệ nhân tạo có thể đoán chính xác người đồng tính chỉ qua một bức ảnh

Trí tuệ nhân tạo có thể đoán chính xác người đồng tính chỉ qua một bức ảnh

Nghiên cứu của đại học Stanford đã nhận thấy rằng, khuôn mặt con người có sự khác biệt thể hiện xu hướng tính dục, chỉ số IQ và thậm chí cả quan điểm chính trị của người đó.

Đăng ngày: 01/10/2018
Người chết hồi sinh thành… robot

Người chết hồi sinh thành… robot

Cơ quan tang lễ Phoenix và một nhóm khoa học gia Thụy Điển đang kêu gọi tình nguyện viên cho phép tạo ra phiên bản những người thân đã khuất của mình trong hình hài robot.

Đăng ngày: 28/09/2018
Nhìn các bức tranh này, bạn có đoán được bức nào không phải do con người tạo ra không?

Nhìn các bức tranh này, bạn có đoán được bức nào không phải do con người tạo ra không?

Trong số 6 bức tranh dưới đây, có 5 bức được vẽ bởi các họa sỹ trên toàn thế giới, bức còn lại được vẽ bởi một con robot.

Đăng ngày: 20/09/2018
Thứ gì sẽ còn đáng sợ hơn cả khủng bố? Chính là trí tuệ nhân tạo!

Thứ gì sẽ còn đáng sợ hơn cả khủng bố? Chính là trí tuệ nhân tạo!

Trong tương lai, các tổ chức khủng bố có thể tận dụng AI để đưa ra các cuộc tấn công kinh khủng hơn hiện tại.

Đăng ngày: 12/09/2018
Trí tuệ nhân tạo dự đoán sự tiến triển và lây lan của ung thư

Trí tuệ nhân tạo dự đoán sự tiến triển và lây lan của ung thư

Các nhà khoa học đã sử dụng trí tuệ nhân tạo để dự đoán ung thư sẽ tiến triển và lây lan như thế nào, điều này có thể giúp bác sĩ đưa ra một phương pháp điều trị hiệu quả nhất cho từng bệnh nhân.

Đăng ngày: 06/09/2018
Tiêu điểm
Khoa Học News