Càng thông minh, trí tuệ nhân tạo càng thích giấu dốt?

Một nhóm nghiên cứu trí tuệ nhân tạo (AI) tại Đại học Bách khoa Valencia, Tây Ban Nha, phát hiện rằng khi các mô hình ngôn ngữ lớn (LLM) trở nên lớn hơn và tinh vi hơn, chúng có xu hướng ít thừa nhận với người dùng rằng mình không biết câu trả lời.

Trong nghiên cứu được công bố trên tạp chí Nature, nhóm đã kiểm tra phiên bản mới nhất của ba chatbot trí tuệ nhân tạo AI phổ biến nhất về phản hồi, độ chính xác và khả năng người dùng phát hiện câu trả lời sai.


Khi LLM trở nên lớn hơn và tinh vi hơn, chúng lại có xu hướng ít cởi mở hơn. (Ảnh minh họa).

Để kiểm tra độ chính xác của ba LLM phổ biến nhất là BLOOM, LLaMA và GPT, nhóm nghiên cứu đã đưa ra hàng nghìn câu hỏi và so sánh câu trả lời nhận được với phản hồi của các phiên bản trước đó cho cùng một câu hỏi.

Họ cũng đa dạng hóa chủ đề, bao gồm toán học, khoa học, câu đố chữ và địa lý, cũng như khả năng tạo văn bản hoặc thực hiện các hành động như sắp xếp danh sách.

Kết quả nghiên cứu cho thấy một số xu hướng đáng chú ý.

Độ chính xác nói chung của các chatbot được cải thiện qua mỗi phiên bản mới, nhưng vẫn giảm khi đối mặt với những câu hỏi khó hơn.

Điều đáng ngạc nhiên là khi LLM trở nên lớn hơn và tinh vi hơn, chúng lại có xu hướng ít cởi mở hơn về khả năng trả lời chính xác của mình.

Trong các phiên bản trước đây, hầu hết LLM sẽ thẳng thắn thông báo với người dùng khi chúng không thể tìm thấy câu trả lời hoặc cần thêm thông tin.

Ngược lại, các phiên bản mới hơn có xu hướng đoán nhiều hơn, dẫn đến việc đưa ra nhiều câu trả lời hơn nói chung, bao gồm cả đúng và sai.

Đáng lo ngại hơn, nghiên cứu phát hiện rằng tất cả các LLM đôi khi vẫn đưa ra câu trả lời không chính xác ngay cả đối với các câu hỏi dễ, cho thấy độ tin cậy của chúng vẫn còn là một vấn đề cần được cải thiện.

Những phát hiện này nêu bật một nghịch lý trong sự phát triển của AI: mặc dù các mô hình ngày càng mạnh mẽ hơn, chúng cũng có thể trở nên kém minh bạch hơn về những hạn chế của mình.

Điều này đặt ra những thách thức mới trong việc sử dụng và tin tưởng vào các hệ thống AI, đòi hỏi người dùng phải thận trọng hơn và các nhà phát triển cần tập trung vào việc cải thiện không chỉ độ chính xác mà còn cả khả năng "tự nhận thức" của các mô hình.

Loading...
TIN CŨ HƠN

"Trí tuệ nhân tạo" AlphaGo là gì mà khiến con người thán phục?

AlphaGo là gì? Tại sao AlphaGo lại được nhiều người quan tâm như vậy? Điều gì đã khiến cho bộ máy nhân tạo AlphaGo chiến thắng một kiện tướng cờ vây nhiều năm kinh nghiệm?

Đăng ngày: 29/06/2025
Những ứng dụng thiết thực của AI trong cuộc sống

Những ứng dụng thiết thực của AI trong cuộc sống

Không chỉ tạo ra cơn sốt về công nghệ, AI còn đặt viên gạch đầu tiên cho một kỷ nguyên máy móc, từng bước thay thế con người thực hiện những công việc từ đơn giản cho tới không tưởng.

Đăng ngày: 25/06/2025
Các nhân vật trong truyện tranh Conan sẽ có dung nhan thực tế như thế nào ngoài đời thật?

Các nhân vật trong truyện tranh Conan sẽ có dung nhan thực tế như thế nào ngoài đời thật?

Công nghệ AI cho kết quả siêu ấn tượng khi dựng lại hình ảnh các nhân vật trong bộ truyện Thám Tử Lừng Danh Conan.

Đăng ngày: 21/06/2025
Kỹ sư NASA bất ngờ trước hình dạng “ngoài hành tinh” của linh kiện tàu vũ trụ do AI chế tạo

Kỹ sư NASA bất ngờ trước hình dạng “ngoài hành tinh” của linh kiện tàu vũ trụ do AI chế tạo

Theo lời các kỹ sư NASA, vẻ ngoài khác lạ không ảnh hưởng tới hiệu năng của chúng. Trái lại, nó còn hiệu quả hơn thiết kế do con người tạo ra.

Đăng ngày: 11/06/2025
Dùng AI vẽ lại khuôn mặt của các nhân vật nổi tiếng trên khắp thế giới

Dùng AI vẽ lại khuôn mặt của các nhân vật nổi tiếng trên khắp thế giới

Các mỹ nhân nổi tiếng như Dương Quý Phi và Võ Tắc Thiên sau khi được AI phục dựng tướng mạo trông sẽ như thế nào?

Đăng ngày: 10/06/2025
Trí tuệ nhân tạo là gì? AI (artificial intelligence) là gì?

Trí tuệ nhân tạo là gì? AI (artificial intelligence) là gì?

Định nghĩa trí tuệ nhân tạo: (AI: Artificial Intelligence) có thể được định nghĩa như một ngành của khoa học máy tính liên quan đến việc tự động hóa các hành vi thông minh.

Đăng ngày: 08/06/2025
OpenAI ra mắt Chat GPT-4o với trí thông minh

OpenAI ra mắt Chat GPT-4o với trí thông minh "tiệm cận con người", miễn phí 100%

Công ty trí tuệ nhân tạo hàng đầu thế giới OpenAI vừa tổ chức sự kiện công bố mô hình AI mới có tên GPT-4o.

Đăng ngày: 04/06/2025
Tiêu điểm
Khoa Học News