Thực hiện đúng những nguyên tắc này, robot sẽ không thể lật đổ con người

Các tác giả của tiểu thuyết và phim khoa học viễn tưởng đã nhiều lần đặt ra câu hỏi: Liệu một ngày nào đó robot sẽ trở nên thông minh đến mức có thể lật đổ loài người hay không? Một nhóm các chuyên gia về trí thông minh nhân tạo (AI) xuất sắc nhất thế giới đã làm việc với nhau để đảm bảo rằng, sự lật đổ đó sẽ không bao giờ xảy ra.

Họ đưa ra 20 nguyên tắc để hướng dẫn việc nghiên cứu AI trong tương lai. Những hướng dẫn này đã được hàng trăm chuyên gia tán thành, bao gồm Stephen Hawking và CEO của SpaceX – Elon Musk.

"Chúng tôi hy vọng rằng, những nguyên tắc này sẽ cung cấp chất liệu cho những thảo luận sôi nổi. Và đây cũng sẽ là những mục tiêu đầy tham vọng để khoa học sử dụng AI một cách hiệu quả để cải thiện cuộc sống con người trong những năm tới", một trong những nhà khoa học nói.

Những chuyên gia tham gia soạn thảo nguyên tắc đang làm nhiều công việc khác nhau, từ viện sĩ, kĩ sư đến những đại diện của các công ty công nghệ, như đồng sáng lập của Google – Larry Page.

Loading...

Những nguyên tắc này đã được công bố trên Future Of Life Institute.

Dưới đây là 20 nguyên tắc cần tuân thủ khi phát triển AI:

Những vấn đề nghiên cứu

Thực hiện đúng những nguyên tắc này, robot sẽ không thể lật đổ con người
AI có thể trở nên vô cùng nguy hiểm. (Ảnh: Columbia Pictures).

  • Mục tiêu nghiên cứu: Mục tiêu của việc nghiên cứu AI là tạo ra trí thông minh có định hướng, ngoài trí thông minh hữu ích.
  • Nguồn quỹ nghiên cứu: Đầu tư cho AI nên được đảm bảo là để phục vụ cho những ứng dụng hữu ích trong việc phát triển AI, bằng cách trả lời các câu hỏi:
    1. Làm thế nào để cải thiện hệ thống AI trở nên mạnh mẽ, để chúng có thể làm tất cả những gì chúng ta muốn nhưng không xảy ra trục trặc?
    2. Làm sao để ngăn ngừa những rủi ro có thể xảy ra với AI?
    3. Nên đặt ra những giá trị gì để có áp thể áp dụng chung cho các AI?
  • Mối liên kết giữa khoa học và các chính sách: Nên có những sự trao đổi mang tính xây dựng và thẳng thắn giữa những nhà nghiên cứu AI và những người làm chính sách.
  • Văn hóa nghiên cứu: Nên xây dựng văn hóa hợp tác, tin tưởng, trong sạch giữa những nhà nghiên cứu và những người phát triển AI.
  • Tránh những cuộc chạy đua: Những nhóm phát triển AI nên hợp tác với nhau một cách lành mạnh và tránh vi phạm những nguyên tắc về an toàn.

Đạo đức và giá trị

  • An toàn: Hệ thống AI nên được đảm bảo an toàn trong suốt thời gian vận hành. Nó cũng nên được biến đổi một cách linh hoạt khi có bất kì sự thay đổi nào.
  • Minh bạch khi có sai sót: Nếu một hệ thống AI gây nguy hiểm, phải biết chắc chắn nguyên nhân tại sao.
  • Minh bạch trong việc xét xử: Những nhà chức trách có đủ quyền hạn nên cung cấp lời giải thích xác đáng và rõ ràng cho bất kì hoạt động có liên quan đến các hệ thống tự động.
  • Trách nhiệm: Những người thiết kế và phát triển hệ thống AI cao cấp phải chịu trách nhiệm về hệ thống AI họ tạo ra.
  • Giá trị liên kết: Những hệ thống AI nên được thiết kế để mục đích và hành động của chúng liên kết với những giá trị mà con người công nhận.
  • Giá trị con người: Hệ thống AI nên được thiết kế và vận hành một cách tương thích với lý tưởng của con người về chân giá trị, các quyền, về tự do và đa dạng văn hóa.
  • Bảo mật cá nhân: Mọi người nên có quyền truy cập, quản lý và kiểm soát những dữ liệu mà họ vận hành, để có thể phân tích và sử dụng hệ thống AI của họ.
  • Tính tự do và tính cá nhân: Những ứng dụng của AI không được phép cắt bớt tự do của con người một cách quá đáng.
  • Chia sẻ lợi ích: Công nghệ AI nên sinh lợi và được trao quyền cho càng nhiều người càng tốt.
  • Chia sẻ để thịnh vượng: Nền kinh tế thịnh vượng được tạo ra bởi AI nên được chia sẻ ra nước ngoài, làm lợi cho cả nhân loại.
  • Quyền kiểm của soát con người: Con người nên chọn cách thích hợp để giao quyền cho hệ thống AI, để nó có thể hoàn thành những mục tiêu con người đặt ra sẵn.
  • Không phá vỡ: Quyền kiểm soát những hệ thống AI bậc cao nên được tôn trọng và cải thiện, hơn là phá vỡ.
  • Quân đội AI: Nên tránh xây dựng quân đội mà trong đó sử dụng vũ khí tự động gây chết người.

Thực hiện đúng những nguyên tắc này, robot sẽ không thể lật đổ con người
Hệ thống AI nên được đảm bảo an toàn trong suốt thời gian vận hành.

Những vấn đề dài hạn hơn

  • Rủi ro: Những rủi ro mà hệ thống AI có thể gây ra nên được lên kế hoạch phòng ngừa cẩn thận.
  • Quan trọng: Những hệ thống AI cao cấp có thể đại diện cho những sự thay đổi sâu sắc trong lịch sử tồn tại của Trái đất. Nó nên được lên kế hoạch và quản lý tương xứng với sự quan tâm và nguồn lực mà chúng ta đã bỏ ra.
Loading...
TIN CŨ HƠN
Những công nghệ được kỳ vọng sẽ thay đổi cuộc sống của con người trong tương lai

Những công nghệ được kỳ vọng sẽ thay đổi cuộc sống của con người trong tương lai

Lọc nước biển thành nước ngọt, vắc xin điện tử chữa bách bệnh... những công nghệ này sẽ giúp cải thiện cuộc sống con người trong tương lai.

Đăng ngày: 28/02/2018
Bitcoin là gì?

Bitcoin là gì?

Dự án “tiền tệ ảo thử nghiệm” này đang trở thành một trong những chủ đề nóng nhất của giới công nghệ cũng như giới kinh tế.

Đăng ngày: 28/02/2018
Tạo ra vật liệu cứng hơn thép 200 lần từ dầu ăn

Tạo ra vật liệu cứng hơn thép 200 lần từ dầu ăn

Một báo cáo trên tạp chí Science cho biết, giá một miếng graphene cỡ micromet có thể lên tới 1.000 USD. Tuy nhiên sự phát triển của công nghệ đã khiến cho giá thành của graphene giảm dần.

Đăng ngày: 08/02/2017
Máy khoan khổng lồ đào hầm giảm tắc đường ở Mỹ

Máy khoan khổng lồ đào hầm giảm tắc đường ở Mỹ

Tỷ phú người Mỹ Elon Musk đang lên kế hoạch đào đường hầm bên dưới thành phố Los Angeles bằng chiếc máy khoan khổng lồ để giảm tắc nghẽn giao thông.

Đăng ngày: 07/02/2017
Loại giấy in có thể tái sử dụng hơn 80 lần

Loại giấy in có thể tái sử dụng hơn 80 lần

Loại giấy mới có thể xóa đi, in lại hơn 80 lần mà không cần thêm mực, đem lại giá trị lớn đối với kinh tế và môi trường.

Đăng ngày: 07/02/2017
Áo chống đạn bền gấp 10 lần thép từ chất nhầy cá

Áo chống đạn bền gấp 10 lần thép từ chất nhầy cá

Hải quân Mỹ mới tuyên bố với truyền thông rằng họ có thể chế tạo ra áo chống đạn có độ bền gấp 10 lần thép từ chất nhầy của một loại cá.

Đăng ngày: 06/02/2017
Thiết bị đeo sẽ biết phát hiện cảm xúc vui buồn

Thiết bị đeo sẽ biết phát hiện cảm xúc vui buồn

Các nhà khoa học của MIT đã xây dựng một ứng dụng dành cho các thiết bị đeo để phát hiện ra cảm xúc của con người khi trò chuyện.

Đăng ngày: 06/02/2017
Tiêu điểm
Khoa Học News
Trang web của chúng tôi có thể được thực hiện và duy trì bằng cách hiển thị quảng cáo trực tuyến cho khách truy cập của chúng tôi.
Vui lòng xem xét hỗ trợ chúng tôi bằng cách vô hiệu trình chặn quảng cáo của bạn.