Robot vũ trang tự hành sẽ là "thảm họa vô hạn"

Robot và các vũ khí tự hành đang ngày càng phổ biến trong thế giới hiện đại. Nhưng các nhà khoa học cảnh báo, nếu không kiểm soát tốt, chúng có thể trở thành "thảm họa vô hạn".

Một báo cáo mang tên "Autonomous Weapons and Operational Risk report" (Tạm dịch: Vũ khí tự hành và rủi ro) của Trung tâm An ninh mới - CNA (Mỹ) vừa được công bố đầu tuần này đã làm dấy lên mối lo ngại về khả năng ra quyết định của các hệ thống vũ khí tự hành, bao gồm cả máy bay không người lái.

Robot vũ trang tự hành sẽ là thảm họa vô hạn
Vũ khí tự hành, chẳng hạn như máy bay không người lái (hình minh họa) hoặc các hệ thống tên lửa dẫn đường tiên tiến có thể không chỉ đưa ra các quyết định sai lầm mà còn có thể gây ra những nguy hiểm khôn lường nếu bị tin tặc tấn công.

Cựu Bộ trưởng bộ Quốc phòng Hoa Kỳ Paul Scharre, tác giả chính của báo cáo cảnh báo, việc sử dụng các robot vũ trang có thể giảm bớt gánh nặng của con người trong chiến tranh, tuy nhiên, những người chịu trách nhiệm cần phải cảnh giác với việc bị ru ngủ trong một cảm giác bảo mật sai lầm.

Những loại máy móc tự hành - như thiết bị bay không người lái và các hệ thống hoặc tên lửa dẫn đường tiên tiến, không chỉ có thể đưa ra những quyết định sai lầm mà chúng còn có thể được sử dụng để chống lại chúng ta nếu bị tin tặc tấn công.

Các chuyên gia cho biết, nếu mắc phải một trong hai khả năng trên, máy móc tự hành có thể là "thảm họa vô hạn".

Từ lâu Hollywood đã đưa ra những cảnh báo tương tự trong những bộ phim của mình, có thể lấy ví dụ như bộ phim Robocop được sản xuất vào năm 1987, trong đó một robot an ninh không nhận ra mục tiêu thường dân và tiêu diệt luôn mục tiêu đó.

Robot vũ trang tự hành sẽ là thảm họa vô hạn
Hollywood từ lâu đã đưa đề tài này lên phim. Trong Robocop năm 1987, một robot an ninh đã tiêu diệt nhầm mục tiêu thường dân vì không thể nhận dạng chuẩn xác.

Tiến sĩ Sarah Kreps, một chuyên gia máy bay chiến đấu không người lái đến từ trường Đại học Cornel cảnh báo rằng, phát triển vũ khí tự hành sẽ dẫn đến hai vấn đề chính: Đó là việc thiếu tính chủ quan để nhận ra đâu là bạn, đâu là thù và vấn đề tin tặc.

Lý giải về những hạn chế của máy móc thông minh trong việc nhận ra mục tiêu, các chuyên gia bảo mật đã nhấn mạnh sự cần thiết để giữ con người ở trong khuôn khổ. Sự rắc rối vốn có của một vùng chiến sự khiến cho việc chọn lựa mục tiêu rất khó khăn, nhất là nếu có lính bị bắt làm tù binh.

"Bạn không thể đặt những quyết định chủ quan về việc ai là một chiến binh hay là một dân thường vào một thuật toán. Một con người, hay nhiều người phải được phân tích hành vi, để xem họ có trực tiếp và tích cực tham gia chiến đấu hay không", tiến sĩ Kreps nói.

Robot vũ trang tự hành sẽ là thảm họa vô hạn
Máy móc không thể nhận định chủ quan giống con người và cũng không thể lập trình để làm được việc đó, vì vậy chúng ta không thể trông cậy chúng nhận ra đâu là bạn là thù.

"Tình trạng của đối phương thường mang màu sắc phán đoán chủ quan và nó không dễ dàng để có thể được lập trình trong một loại vũ khí tự hành. Chúng ta không nên bị ru ngủ khi nghĩ rằng công nghệ có thể làm cho các quyết định dễ dàng hơn".

Ngoài việc thiếu sự xét đoán chủ quan, quyền tự trị mang tới sự đe dọa từ các cuộc tấn công mạng. Nếu các hệ thống an ninh bảo vệ các công nghệ tự hành có thể được ghi đè lên bởi các hacker, nó có thể gây ra sự tàn phá trên chiến trường.

"Nếu một nhóm tin tặc có thể hack vào những khe hở của hệ thống an ninh tại Lầu Năm Góc, họ gần như chắc chắn có thể hack vào hệ thống điều khiển vũ khí tự hành. Và trường hợp này sẽ mang lại thảm họa bất tận", tiến sĩ Kreps chia sẻ.

Báo cáo kết luận rằng, vì lý do an ninh, các nước có khả năng sẽ tiếp cận vũ khí tự trị cần minh bạch và rõ ràng với thế giới trong cách thức thực hiện của mình.

Loading...
TIN CŨ HƠN
Bitcoin là gì?

Bitcoin là gì?

Dự án “tiền tệ ảo thử nghiệm” này đang trở thành một trong những chủ đề nóng nhất của giới công nghệ cũng như giới kinh tế.

Đăng ngày: 28/02/2018
Biến chất thải hạt nhân thành pin sạch nhờ kim cương

Biến chất thải hạt nhân thành pin sạch nhờ kim cương

Chất thải hạt nhân vẫn luôn là mối lo ngại chính yếu về môi trường, nhưng sớm thôi, nó có thể trở thành một nguồn năng lượng sạch.

Đăng ngày: 01/12/2016
Du thuyền năng lượng mặt trời của Triều Tiên bắt đầu hoạt động

Du thuyền năng lượng mặt trời của Triều Tiên bắt đầu hoạt động

Thuyền năng lượng mặt trời Ngọc Lưu được lắp 80 tấm pin năng lượng mặt trời, có thể chở 50 - 60 khách, bắt đầu hoạt động ở sông Đại Đồng, Bình Nhưỡng, Triều Tiên.

Đăng ngày: 28/11/2016
Mỹ phát triển robot nhằm thống trị đáy đại dương

Mỹ phát triển robot nhằm thống trị đáy đại dương

Washington đang đầu tư mạnh cho các phương tiện chiến đấu không người lái dưới nước nhằm thống trị đáy đại dương qua đó nắm lợi thế trước đối phương.

Đăng ngày: 28/11/2016
Dự đoán công nghệ xe hơi trong 10 năm tới

Dự đoán công nghệ xe hơi trong 10 năm tới

Xe hơi sẽ được trang bị thêm các công nghệ tiên tiến như hệ thống kiểm soát hành trình, hỗ trợ đi đúng làn đường, phanh tự động, lái tự động trong 10 năm tới.

Đăng ngày: 28/11/2016
Máy lọc khổng lồ bất lực trước không khí ô nhiễm Bắc Kinh

Máy lọc khổng lồ bất lực trước không khí ô nhiễm Bắc Kinh

Chiếc máy lọc không khí do một công ty Hà Lan thiết kế cho kết quả đáng thất vọng trước tình trạng ô nhiễm khói mù nghiêm trọng ở Bắc Kinh.

Đăng ngày: 27/11/2016
Robot sân bay biết nói 28 thứ tiếng và truy tìm tội phạm

Robot sân bay biết nói 28 thứ tiếng và truy tìm tội phạm

Những giây phút làm thủ tục tại sân bay sẽ dễ chịu hơn nếu bạn được trò chuyện với một chú robot thông minh có hình dạng đáng yêu.

Đăng ngày: 26/11/2016
Tiêu điểm
Khoa Học News