Thần thoại Hy Lạp dạy chúng ta điều gì về sự nguy hiểm của AI?

Hầu hết mọi người thường nghĩ rằng quan niệm về robot, trí tuệ nhân tạo và máy móc tự động là một hiện tượng mang tính hiện đại. Nhưng trên thực tế, ý tưởng này đã xuất hiện trong văn học phương Tây gần 3.000 năm trước. Rất lâu trước khi nhà văn Isaac Asimov nghĩ ra Định luật Robot (1942) và nhà khoa học máy tính John McCarthy đặt ra thuật ngữ “Trí tuệ nhân tạo” (1995), thần thoại Hy Lạp cổ đại đã chứa đầy những câu chuyện về những sinh vật hình người đầy thông minh.

Và một thực tế ấn tượng là những nhân vật thần thoại này đáp ứng đủ các tiêu chí của các định nghĩa hiện đại về người máy và AI. Nhưng, điều đáng kinh ngạc hơn nữa là những câu chuyện cổ tích này vẫn có thể cung cấp cho chúng ta các bài học quý giá và những hiểu biết sâu sắc hơn về trí tuệ nhân tạo ngày nay.

Theo các nhà nghiên cứu, mong muốn vươn xa hơn con người và tạo ra sự sống phi sinh học bằng cách trang bị trí thông minh cho máy móc dường như là một phần bẩm sinh trong bản chất của con người, từ xa xưa tới hiện đại. Và đó là lý do tại sao chúng ta cần tìm kiếm thêm các tri thức về AI đương đại trong những câu chuyện thần thoại lâu đời.

Thông qua những tình huống khó xử, đôi khi đáng sợ, sự gửi gắm hy vọng cũng như bài học đạo đức mà chúng thể hiện, những câu chuyện này có thể cung cấp cho chúng ta một cách khác để giải quyết một vài câu hỏi cấp bách nhất liên quan đến máy móc thông minh: Chúng ta nên đi bao xa với AI? Và ý nghĩa đạo đức thực sự của các công nghệ này là gì?

Và giờ, chúng ta sẽ cùng xem xét ba nhân vật AI đại diện trong thần thoại Hy Lạp: Golden Maidens, Talos và Pandora.

Golden Maidens: Nhu cầu về các công nghệ giúp tiết kiệm sức lao động

Golden Maidens được tạo ra bởi Hephaestus, vị thần của các kỹ nghệ bao gồm nghề rèn, thủ công, điêu khắc, kim loại, luyện kim, và lửa. Chúng được mô tả là những nữ trợ lý làm bằng vàng, trông giống như các cô gái trẻ còn sống. Và thú vị nhất là chúng có thể dự đoán cũng như đáp ứng các nhu cầu của người chế tạo ra.

Theo như nhà sử học Adrienne Mayor viết trong cuốn sách Gods and Robots: Myths, Machines, and Ancient Dreams of Technology (tạm dịch Thần và Người máy: Thần thoại, Máy móc và Giấc mơ Công nghệ Cổ xưa) thì điều quan trọng nhất của các Golden Maidens có là “họ được ban cho những đặc điểm nổi bật của con người: ý thức, trí thông minh, khả năng học tập, lý trí và lời nói”.

Ở đây, chúng ta có thể ngay lập tức nhận ra một điểm tương đồng giữa thần thoại cổ đại và xã hội hiện đại. Đó là việc một trong những lý do chính để tạo ra các máy móc thông minh, tự động là tính kinh tế, hay đúng hơn là khả năng tiết kiệm sức lao động.

Ý tưởng việc robot hay các thiết bị có thể tự hành động có thể đóng vai trò như người hầu (hoặc nô lệ) cũng là một điểm được triết gia Hy Lạp nổi tiếng, Aristotle, nhấn mạnh. Trong cuốn sách đầu tiên mang tên Politics (Chính trị) của mình, ông đã suy ngẫm: “Nếu mọi công cụ có thể tự thực hiện công việc của mình, tuân theo hoặc đoán trước nhu cầu của người khác,...”

Ý tưởng đó, mặc dù đi trước thời đại, nhưng thực ra về bản chất lại rất đơn giản. Đó là một xã hội trong đó con người không phải làm những công việc nặng nhọc mà thay vào đó, họ giao phó các công việc này cho máy móc. Và giống như xã hội Hy Lạp cổ đại, chúng ta ngày nay cũng đang tạo ra một tầng lớp “đầy tớ” bằng máy móc mới.

Hãy nghĩ về những con robot hút bụi đang miệt mài di chuyển ngang dọc để lau các căn phòng cho bạn, hay robot phẫu thuật thực hiện các quy trình mổ xẻ phức tạp hoặc robot quân sự được thiết kế để gỡ bom.

Điều này tất nhiên cũng đặt ra một câu hỏi thú vị. Đó là các lo ngại về việc mặc dù những người máy có thể giúp chúng ta thực hiện những nhiệm vụ nhỏ, nhưng khi quá trình tự động hóa trở nên phổ biến, các ngành công nghiệp có thể đối mặt với nguy cơ bị phá hủy và lực lượng nhân công sẽ bị ảnh hưởng. Ví dụ, hãy nghĩ về những chiếc xe tự lái sẽ khiến những người tài xế bị sa thải. Nhưng các lo ngại đó sẽ bị gạt sang một bên một khi số tiền kiếm được từ những động thái như vậy được chuyển đến tay những người tước đoạt, bởi đó là khi những người có đặc quyền và giàu có (ở đây là Hephaestus) sẽ được hưởng lợi nhiều nhất.

Và để hiểu rõ hơn về ý tưởng này, hãy đến với câu chuyện thần thoại tiếp theo.

Talos: Cỗ máy thông minh trong tay bạo chúa

Không giống như Golden Maiden, Talos được tạo ra để gây hại.

Đó là một người máy khổng lồ làm bằng đồng, một lần nữa được tạo ra bởi Hephaestus. Talos được thần Zeus dùng để tặng cho con trai mình là Minos, vị vua thần thoại của đảo Crete, với nhiệm vụ canh giữ và bảo vệ hòn đảo.

Con robot hộ vệ này sẽ ném những tảng đá khổng lồ vào những con tàu tiến gần đến hòn đảo, và nếu kẻ thù lên được đất liền, nó sẽ lao tới ôm chúng và thiêu sống tất cả nhờ khả năng làm nóng cơ thể bằng đồng của mình.

Talos dường như không sở hữu trí thông minh ở mức độ con người, nhưng nó có thể tương tác với môi trường và thực hiện nhiều nhiệm vụ khác nhau.

Trên thực tế, một số biến thể thần thoại về cái chết của Talos đã gợi ý đáng kể về khả năng nó ý thức được sự tồn tại của mình và rằng người máy này có một loại quyền tự quyết.

Trong các phiên bản thần thoại kiểu này, Talos được miêu tả là người dễ bị ảnh hưởng bởi nỗi sợ hãi và hy vọng của con người, với một loại ý chí và trí thông minh.

Giờ, nếu nhìn kỹ hơn vào kho dữ liệu thần thoại có liên quan, bạn có thể nhận thấy rằng tất cả những cỗ máy được sử dụng theo cách như vậy đều thuộc về những kẻ thống trị. Trong ví dụ của Talos là vua Minos.

Và có một bài học đáng chú ý trong những câu chuyện này. Đó là công nghệ vượt trội có thể giúp ai đó thực hiện quyền kiểm soát triệt để.

Chẳng hạn, hãy nghĩ đến những người máy quân sự đã được sử dụng từ Thế chiến thứ hai. Hay trong một số cuộc chiến hoặc xung đột gần đây, chiến trường gần như biến thành cuộc thử nghiệm dành cho các phương tiện chiến đấu tự động và thiết bị không người lái được hỗ trợ bởi AI. Chúng phần nào thể hiện sự phấn khích của các nhà lãnh đạo quân sự về tính hữu dụng tiềm tàng của công nghệ trí tuệ nhân tạo. Và AI không chỉ đang phục vụ những người nắm quyền trong chiến tranh mà cả đời sống hàng ngày.

Đồng thời, phạm vi ứng dụng của AI trong các lĩnh vực như chăm sóc sức khỏe, tài chính, thương mại điện tử… cũng đang định hình một chiến trường mới về quyền lực địa chính trị.

Theo các nhà phân tích, sự thống trị của AI bởi các quốc gia hùng mạnh dự kiến sẽ làm sâu sắc thêm sự bất bình đẳng về cấu trúc và góp phần tạo ra các hình thức mất cân bằng kinh tế và xã hội mới. Tương tự, vì AI chủ yếu được tập trung hóa (có nghĩa là nó bị giới hạn quyền sở hữu của một thực thể duy nhất), nó sẽ tiếp tục trao quyền cho các công ty công nghệ lớn hàng đầu tạo ra nó, cho phép họ theo đuổi các chương trình nghị sự của riêng mình.

Nhưng những hậu quả này liệu đã được tranh luận đủ bởi các cơ quan quản lý của các quốc gia hay các công ty hiện đang phát triển AI chưa?

“Tôi nghĩ Thung lũng Silicon và các công ty Big Tech cũng như các tỷ phú đã kiểm soát các câu chuyện về AI đến mức chúng ta có rất ít không gian cho các tranh luận cần thiết về một công nghệ đang phát triển ồ ạt đến như vậy”, George Zarkadakis, một kỹ sư AI kiêm nhà tương lai học và nhà văn, chia sẻ.

Trừ khi được kiểm soát, quản lý hợp pháp và loại bỏ khỏi tay các cá nhân, còn không các công cụ AI sẽ không mang lại lợi ích cho xã hội theo cách mà chúng ta sẽ hình dung. Và nguy cơ chúng rơi vào tay những kẻ bất chính, những kẻ có thể sử dụng chúng để khẳng định sự thống trị được nhấn mạnh bởi câu chuyện thần thoại thứ ba tiếp theo đây.

Trong câu chuyện này, nỗi sợ hãi mất quyền thống trị của thần Zeus đã dẫn đến việc tạo ra một vũ khí cực kỳ nguy hiểm: Chiếc lọ Pandora.

Pandora: Khi AI vượt qua giới hạn

Pandora được tạo ra như một công cụ trừng phạt. Sau khi Prometheus, một trong những Titan từ thần thoại Hy Lạp với cái tên có nghĩa là "người biết trước tương lai", đánh cắp lửa từ các vị thần và trao nó cho loài người để giúp con người tạo ra công nghệ, thần Zeus đã ra lệnh cho Hephaestus chế tạo ra Pandora.

Pandora được thiết kế để trở thành một ác quỷ và được ngụy trang thành một món quà. Đó là thứ sẽ khiến loài người phải trả giá vì đã chạm tay vào lửa và công nghệ, thứ khi đó được cho là những đặc quyền riêng của các vị thần.

Hephaestus đã tạo ra Pandora bằng cách nặn đất và nước thành hình một người phụ nữ xinh đẹp. Cô ta cũng được trời phú cho sự phản bội, lừa dối và quyến rũ. Cuối cùng, Zeus đưa cho cô một chiếc lọ bí ẩn.

Sau đó Pandora được gửi đến cho anh trai của Prometheus, Epimetheus (cái tên có nghĩa là "hối tiếc về những gì đã xảy ra"), người đã quên đi lời cảnh báo rằng không bao giờ được nhận quà từ Zeus. Khi đến Trái đất, Pandora đã mở chiếc lọ (một số phiên bản nói rằng nó là một chiếc hộp) và giải phóng tất cả các loại ác quỷ sẽ gây tai họa cho loài người mãi mãi. Theo chỉ dẫn của Zeus, cô đã niêm phong chiếc lọ ngay trước khi Hy vọng có thể thoát ra ngoài, nhốt chặt nó ở bên trong.

“Không rõ liệu Pandora có khả năng học hỏi, lựa chọn hay hành động tự chủ hay không”, nhà sử học Mayor lưu ý. “Nhiệm vụ duy nhất của cô ấy là mở chiếc lọ chứa đựng mọi bất hạnh của con người”.

Và theo các thuật ngữ hiện đại, cô ấy đã làm đúng những gì mà cô được “lập trình”.

Một yếu tố không thể thiếu của thần thoại Hy Lạp, được thể hiện đầy đủ trong thần thoại về Pandora, đó là khái niệm về sự kiêu ngạo. Điều này đề cập đến một hành động vi phạm trật tự tự nhiên bằng cách coi thường các giới hạn thiêng liêng đã được ấn định. Trong trường hợp này là sự kiêu ngạo của con người và kết quả là sự trừng phạt của Zeus để khôi phục lại cân bằng, thông qua chiếc lọ của Pandora.

Theo chuyên gia công nghệ Zarkadakis, cũng đang có rất nhiều sự ngạo mạn trong lĩnh vực AI. Khi những cỗ máy gần như không thể phân biệt được với con người và có thể thông minh hơn con người, thì “chúng sẽ giống như một vị thần”, ông nói thêm.

Zarkadakis tin rằng những câu chuyện thần thoại cổ xưa đang cố gắng ngăn cản chúng ta đi vào “con đường trơn trượt” đó, khi cố gắng theo đuổi AI tới tận cùng. Dẫu vậy, bất chấp các cảnh báo, cả thế giới đều đang tranh nhau theo hướng đó. Và AI như một chiếc lọ Pandora đang đợi sẵn để mở ra, hoặc thậm chí đã dần được mở ở hiện tại.

“Sự phát triển của trí tuệ nhân tạo hoàn chỉnh có thể đánh dấu sự kết thúc của loài người”, Steven Hawking đã đưa ra lời cảnh báo như vậy trong một cuộc phỏng vấn khi còn sống. “Nó sẽ tự phát triển và tự thiết kế lại với tốc độ ngày càng tăng. Con người, những người bị giới hạn bởi quá trình tiến hóa sinh học chậm chạp, không thể cạnh tranh và sẽ bị thay thế.”

Vậy có nên mở chiếc lọ Pandora?

Lựa chọn của chúng ta không khác nhiều so với lựa chọn của Epimetheus. AI đi kèm với một “hộp đen”, đó chính là quy trình máy học của hệ thống Deep Neural Networks. Điều này có nghĩa là trong khi các nhà khoa học có quyền truy cập vào đầu vào và đầu ra dữ liệu mà AI sử dụng, họ không biết quá trình ra quyết định của nó hoạt động như thế nào.

Chúng ta không biết bên trong chiếc “hộp đen” có gì, giống như Epimetheus không biết bên trong chiếc lọ của Pandora có gì. Bài học đạo đức ở đây rất rõ ràng: Hãy suy nghĩ trước khi hành động, hoặc hành động mà không suy nghĩ và gánh chịu hậu quả.

Để liên hệ điều này với các cuộc tranh luận hiện đại ngày nay, thì trừ khi chúng ta xem xét nghiêm túc các kết quả tiêu cực có thể xảy ra, còn không sẽ rất nguy hiểm khi đắm chìm vào việc tạo ra thứ mà chúng ta không hiểu hết chỉ vì chúng ta có thể tạo ra chúng.

“Một cỗ máy có toàn quyền tự chủ và có ý thức nghĩa là nó hoàn toàn tự do, nó có thể suy nghĩ theo bất kỳ cách nào và do đó, nó có thể tiềm ẩn nguy hiểm”, Zarkadakis nói. “Rủi ro số một là sự tuyệt chủng, và về mặt lý thuyết, việc cố gắng xây dựng một AI như vậy và xem điều gì sẽ xảy ra là rất tồi tệ.”

Zarkadakis nói thêm rằng lý do tại sao con người hoàn toàn tự chủ là bởi vì với tư cách là những sinh vật xã hội, chúng ta được trang bị đạo đức và luân lý.

Nhưng việc dạy đạo đức và luân lý cho các hệ thống AI cho đến nay vẫn chưa thành công. Ví dụ như vụ bê bối phân biệt chủng tộc của chatbot Tay từ Microsoft năm 2016, hay sự thù hận ẩn trong chatbot Lee Luda của nhà phát triển Scatter Lab ở Hàn Quốc. Hoặc gần đây nhất là scandal từ hệ thống Galactica của Meta.

Zarkadakis tin rằng chúng ta không thực sự cần AI có ý thức. Ông nhận định: “Trí tuệ nhân tạo có rất nhiều lợi ích để giúp chúng ta đạt được các mục tiêu. Những gì chúng ta cần làm là cho AI hòa nhập xã hội và chúng ta hoàn toàn nên suy nghĩ lại về quyền tự chủ của máy móc và sửa đổi các tuyên ngôn của chúng.”

Với cách tiếp cận này, trên thực tế, AI có thể là đối thủ của Pandora. Tức là biến nó thành một công cụ để giúp con người và thế giới trở nên tốt đẹp hơn.

Từ thần thoại đến thực tế

Hàng ngàn năm trước, ba câu chuyện thần thoại nói trên đã soi sáng tiềm năng của những cỗ máy thông minh để phục vụ mục đích tốt đẹp (như trường hợp của Golden Maiden) hoặc gây hại (như trường hợp của Talos và Pandora). Và đó là những tiềm năng mà chúng ta đã thấy chúng được hiện thực hóa ngày nay.

Tuy nhiên, đáng chú ý hơn cả là chúng cũng đưa ra một loạt câu hỏi quan trọng đối với việc theo đuổi AI của chúng ta: AI sẽ phục vụ nguyện vọng của ai, AI sẽ học hỏi từ ai, chúng ta muốn AI là gì và chúng ta nên đi bao xa với AI trước khi vượt qua các giới hạn?

Cuối cùng, AI giống như chiếc lọ bí ẩn của Pandora. Chúng ta không biết những gì bên trong và chúng ta có thể cho rằng nó chứa cả điều thiện và điều ác. Và sau hết, chúng ta muốn đóng vai trò gì trong câu chuyện này: Chúng ta sẽ giống như Prometheus và thể hiện tầm nhìn thấu tương lai, hay sẽ giống như Epimetheus và luôn hành động trước khi xem xét mọi hậu quả?

Thần thoại Hy Lạp cổ đại đã nói với chúng ta về sự nguy hiểm của AI, bây giờ, việc của chúng ta là hãy lắng nghe một cách cẩn thận.

Tin nổi bật

Tin cùng chuyên mục

Tin mới nhất