Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô
Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu. Gần đây, bằng cách thay đổi một Pixel của bức ảnh, người ta đã đánh lừa được AI trong việc nhận dạng và phân loại ảnh.
Như ví dụ ở đây, AI đã bị đánh lừa và xác định sai con chó thay vì chiếc máy bay, một con ếch thay vì chiếc xe tải…
Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu, và không ít các nghiên cứu đã lừa được AI. Trong một thử nghiệm mới đây của đội ngũ nghiên cứu đại học Kyushu đã chỉ ra rằng, AI rất dễ bị đánh lừa trong việc phân loại ảnh.
Một thuật toán mới đã được gới thiệu trên arVix, trong đó việc thay thế chỉ một 1 pixel trong bức ảnh có độ phân giải 1024 Pixel đã có thể làm cho AI nhận dạng ảnh sai. Các thực nghiệm đã đánh lừa được AI trên 74% tổng số lần thử nghiệm, con số này còn tăng lên cao hơn tới 87% với 5 pixel được chỉnh sửa.
Thực tế, bức ảnh 1024 Pixel là rất nhỏ, và chúng ta cần phải thay đổi nhiều Pixel hơn ở các bức ảnh to hơn để có thể đánh lừa được AI. Việc có thể đánh lừa AI chỉ với một số thay đổi nhỏ cũng làm dấy lên những nỗi lo ngại về các vụ tấn công. Thật khó để có thể cải thiện AI, bởi vì hiện chúng ta vẫn chưa hoàn toàn làm chủ được các công nghệ chế tạo nên trí tuệ nhân tạo.
Anh chàng này vừa bị máy tính đuổi việc, đến sếp anh là người thật cũng không cứu được
Anh Ibrahim Diallo bị đuổi việc, không phải bởi người quản lý mình mà là bởi một cỗ máy.
Hàng nghìn nhà khoa học ký cam kết không phát triển robot AI sát thủ
Hàng nghìn nhà khoa học chuyên ngành Trí tuệ nhân tạo (AI) đã tuyên bố sẽ không tham gia phát triển hoặc sản xuất các robot có thể nhận diện và tấn công con người.
Robot đầu tiên có quyền công dân Sophia ra mắt Việt Nam trong tà áo dài trắng tinh khôi
Sáng 13/7, tại Triển lãm quốc tế về Công nghiệp 4.0 diễn ra ở Hà Nội, robot Sophia nổi tiếng thế giới đã ra mắt Việt Nam trong bộ áo dài truyền thống màu trắng tinh khôi.
Robot Sophia: Tôi không ngại hy sinh bản thân để cứu con người
Từ khi được kích hoạt vào tháng 4/2015, con robot xuất hiện tại nhiều sự kiện cộng đồng để phát biểu về quyền phụ nữ, quyền công dân và những chủ đề khác.
Stanford phát triển thành công AI có thể dự đoán biến chứng do thuốc
Tác dụng phụ của thuốc - nguyên nhân dẫn đên những biến chứng vô cùng nguy hiểm có thể đe dọa đến tính mạng con người.
AI có thể tách tiếng nhạc cụ khỏi video chỉ trong "một nốt nhạc"
Bằng cách sử dụng mạng thần kinh học và deep learning, các nhà nghiên cứu đã đào tạo hệ thống AI có tên PixelPlayer với hơn 60 giờ video liên tục.
