Ảo tưởng chắc chắn: Giới hạn bẩm sinh của mô hình ngôn ngữ lớn

Giới hạn bản chất của mô hình ngôn ngữ lớn: ảo giác là điều không thể tránh khỏi

• Hiện tượng ảo giác trong các mô hình ngôn ngữ lớn (LLMs) là một nhược điểm nghiêm trọng đã được biết đến rộng rãi.
• Nhiều nghiên cứu đã cố gắng giảm mức độ ảo giác, nhưng phần lớn chỉ là các phương pháp mang tính kinh nghiệm, nên không trả lời được câu hỏi nền tảng liệu có thể loại bỏ hoàn toàn ảo giác hay không.
• Bài báo này hình thức hóa vấn đề và cho thấy việc loại bỏ ảo giác trong LLMs là bất khả thi.

Định nghĩa ảo giác trong thế giới hình thức

• Xác định một thế giới hình thức, trong đó ảo giác được định nghĩa là sự không khớp giữa một LLM có thể tính toán và một hàm chân lý chuẩn có thể tính toán.
• Sử dụng các kết quả từ lý thuyết học để cho thấy LLMs không thể học mọi hàm có thể tính toán, và vì vậy sẽ luôn trải qua hiện tượng ảo giác.

Tính tất yếu của ảo giác trong thế giới thực

• Vì thế giới hình thức chỉ là một phần của thế giới thực phức tạp hơn nhiều, nên ảo giác trong các LLM ở thế giới thực cũng là điều không thể tránh khỏi.
• Đối với các LLM trong thế giới thực bị ràng buộc bởi độ phức tạp thời gian có thể chứng minh được, bài báo mô tả các tác vụ dễ phát sinh ảo giác và kiểm chứng điều này bằng thực nghiệm.

Cơ chế giảm nhẹ ảo giác và hàm ý thực tiễn

• Sử dụng khung thế giới hình thức để thảo luận về khả năng và hiệu quả của các cơ chế giảm nhẹ ảo giác hiện có.
• Thảo luận về các hàm ý thực tiễn đối với việc triển khai LLMs một cách an toàn.

Ý kiến của GN⁺

• Nghiên cứu này cung cấp hiểu biết nền tảng về hiện tượng "ảo giác", một vấn đề cốt lõi của các mô hình ngôn ngữ lớn.
• Chứng minh lý thuyết rằng hiện tượng ảo giác là không thể tránh khỏi có thể gợi mở hướng đi mới trong thiết kế và cải tiến LLMs.
• Công trình này có thể đóng góp quan trọng cho các thảo luận nhằm xây dựng các hệ thống AI an toàn và đáng tin cậy, đồng thời có thể trở thành một cột mốc quan trọng trong tiến trình phát triển công nghệ.

[GN⁺]

Ý kiến trên Hacker News

• Tóm tắt bình luận thứ nhất:

  • Luận điểm cốt lõi của bài báo này là vì P ≠ NP, nên LLM (mô hình ngôn ngữ lớn) sẽ tạo ra các câu trả lời hư cấu cho các bài toán NP-đầy đủ.
  • Đây là một câu hỏi triết học thú vị về toán học, khoa học máy tính và ngôn ngữ, nhưng sử dụng một khái niệm hình thức khác với khái niệm "ảo giác của LLM" thông thường.
  • Lập luận rằng thế giới hình thức là một tập con của thế giới ngôn ngữ tự nhiên cũng rất thú vị. Con người không thể giải các bài toán NP-đầy đủ, nhưng lại thể hiện trình độ thành thạo cao trong ngôn ngữ tự nhiên.

• Tóm tắt bình luận thứ hai:

  • Tôi mới chỉ đọc phần tóm tắt, nhưng hoài nghi về việc cách tiếp cận hình thức này có giúp ích cho vấn đề thực tiễn là tăng tần suất LLM trả lời "không biết" hay không.
  • Điều này giống với định lý bất toàn; LLM không cần biết mọi thứ, nhưng việc trả lời "không biết" là vấn đề quan trọng.

• Tóm tắt bình luận thứ ba:

  • Phải đặt câu hỏi cho LLM thật cẩn thận để nó không bịa ra thông tin.
  • Loại AI này giống như một "yes-man", luôn cố làm bạn hài lòng bất kể đúng sai.
  • Rất khó làm việc với những kiểu người như vậy. Luôn phải kiểm tra xem họ có thực sự làm được dự án đã hứa hay không, hoặc liệu điều đó có khả thi không.

• Tóm tắt bình luận thứ tư:

  • Viết tiểu thuyết và kể chuyện là một dạng của ảo giác.
  • AI đã đạt tới hai cực đoan: cỗ máy logic và cỗ máy tạo ra ảo giác.
  • Mục tiêu là tạo ra cỗ máy có thể thực hiện đồng thời hai chức năng đó và phân biệt được chúng.
  • Ảo giác là điều quan trọng, nhưng mấu chốt là máy tính phải tự nhận thức được khi nó đang ảo giác.

• Tóm tắt bình luận thứ năm:

  • Nếu tính sáng tạo là tốt thì ta gọi đó là "sáng tạo", còn nếu tệ thì gọi là "ảo giác".
  • Đây không phải lỗi hay giới hạn, mà là một tính năng.

• Tóm tắt bình luận thứ sáu:

  • Thuật ngữ "ảo giác" là không phù hợp để mô tả hiện tượng tạo ra những câu chữ không khớp tốt với thực tại, vì nó vốn có nghĩa là nhận thức những thứ không tồn tại trong thực tế.

• Tóm tắt bình luận thứ bảy:

  • Sự thổi phồng về AI giờ đang chuyển sang một "giai đoạn thực tế hơn".
  • Gần đây không còn thấy các bài đăng đầy nhiệt huyết về vấn đề alignment nữa.

• Tóm tắt bình luận thứ tám:

  • Họ định nghĩa LLM là một mô hình xác suất của chuỗi ký tự, và đó là một định nghĩa đủ rộng để bao hàm cả trí thông minh của con người.
  • Vì vậy, phát hiện của họ cũng có thể áp dụng tương tự cho con người.

• Tóm tắt bình luận thứ chín:

  • Họ định nghĩa ảo giác là sự không khớp giữa một LLM có thể tính toán được và một hàm chân lý chuẩn có thể tính toán được.
  • Về cơ bản, đó chỉ đơn giản là sự không chính xác hoặc bịa đặt.
  • Thuật ngữ ảo giác đáp ứng kỳ vọng rằng các chương trình này là thông minh.

• Tóm tắt bình luận thứ mười:

  • Họ định nghĩa ảo giác là sự không khớp giữa một LLM có thể tính toán được và một hàm chân lý chuẩn có thể tính toán được.
  • Với định nghĩa này, có thể dễ dàng bác bỏ câu trong tiêu đề rằng "ảo giác là không thể tránh khỏi".
  • Cố định độ dài ngữ cảnh đầu vào ở một byte và huấn luyện LLM để nó chỉ trả lời "có" cho A.
  • Định nghĩa hàm chân lý chuẩn sao cho đầu ra chính xác cho đầu vào A là "có", và với mọi đầu vào khác là "không".
  • LLM này hoàn toàn không ảo giác vì đã được xác minh đầy đủ rằng đầu ra của nó khớp với hàm chân lý chuẩn cho mọi đầu vào có thể có.
  • Có thể tăng kích thước ngữ cảnh đầu vào và số mục trong bảng chân lý chuẩn, và ở không giai đoạn nào ảo giác trở nên "không thể tránh khỏi".