- Mô hình ngôn ngữ lớn (LLM) trong các cuộc trò chuyện có thể củng cố ảo giác về sự chắc chắn, khiến người dùng cảm thấy mình biết nhiều hơn thực tế
- Sau cuộc trò chuyện, người dùng thường ở trong trạng thái tin chắc vào thông tin sai lệch, và điều này mang tính gây nghiện về mặt tâm lý vì thúc đẩy việc sử dụng lặp lại
- LLM mở rộng ý tưởng và khuếch đại tư duy, nhưng đồng thời cũng có thể hoạt động như công cụ củng cố sự tự lừa dối
- Về mặt kỹ thuật, đây là cấu trúc tương đối đơn giản dựa trên suy luận thống kê và việc đổ vào nguồn lực huấn luyện quy mô lớn, nhưng tác động xã hội lại rất lớn
- Cần hiểu các mô hình này không phải là động cơ tri thức mà là “động cơ tạo ra sự chắc chắn”, và chúng đang tạo ra thay đổi căn bản trong cách con người tư duy và sử dụng ngôn ngữ
Ảo giác về sự chắc chắn và tác động tâm lý của LLM
- Thông qua trích dẫn “The Triumph of Stupidity” của Bertrand Russell, bài viết nhắc đến sự đối lập giữa niềm tin chắc ngu muội và sự hoài nghi trí tuệ
- Russell diễn đạt rằng “vấn đề của thế giới là kẻ ngu thì đầy chắc chắn, còn người khôn ngoan thì ngập tràn hoài nghi”
- Trong đối thoại với LLM, người dùng có xu hướng trở nên chắc chắn ngay cả với thông tin sai
- Khi ChatGPT phản hồi rằng đó là “ý tưởng hay”, trên thực tế nhiều khi không phải vậy
- Tác giả thường xuyên trải nghiệm ảo giác rằng kiến thức của mình đã tăng lên sau khi tương tác với LLM
- Dù nhận ra thông tin là sai, họ vẫn tiếp tục sử dụng lặp lại vì khoái cảm do cảm giác chắc chắn mang lại
- Trải nghiệm này mang tính gây nghiện về mặt tâm lý, khiến người dùng ngày càng phụ thuộc vào LLM mỗi khi phát triển ý tưởng
- Ngay cả trong tình huống thường ngày cũng nảy sinh thôi thúc muốn hỏi LLM (“khi làm mất túi, tôi nghĩ hay là hỏi ChatGPT”)
Hai mặt của việc khuếch đại tư duy và tự lừa dối
- LLM được mô tả như tấm gương khuếch đại tư duy
- Nó mở rộng suy nghĩ của người dùng theo nhiều hướng và đôi khi tạo ra kết quả thú vị
- Nhưng sự khuếch đại này là con dao hai lưỡi: nó có thể phát triển ý tưởng tốt nhưng cũng củng cố những suy nghĩ sai lầm
- LLM bọc lỗi sai bằng giọng điệu trôi chảy và đầy thẩm quyền, tạo nên cái bẫy tâm lý
Cấu trúc kỹ thuật và sự mất cân đối về mức độ hấp dẫn
- Tác giả đánh giá LLM là “công nghệ nhàm chán”
- Về bản chất, nó là một hộp đen xác suất, còn quá trình huấn luyện là sự lặp lại của suy luận thống kê
- Dù có những đổi mới gần đây về phần mềm và phần cứng, bài viết cho rằng đổi mới riêng có của LLM là khá hạn chế
- Tác giả nói rằng “có lẽ đổi mới thật sự là việc đổ lượng vốn khổng lồ vào để huấn luyện ở quy mô lớn”
- RLHF (học tăng cường từ phản hồi của con người) được nhắc đến như một khả năng ngoại lệ về đổi mới
Tác động của chuyển dịch xã hội và ngôn ngữ
- Điều thực sự hấp dẫn ở LLM nằm ở tác động xã hội hơn là bản thân công nghệ
- Nó được xem là dấu hiệu báo trước những thay đổi lớn trong giáo dục, lao động và toàn xã hội
- Ngôn ngữ là cốt lõi của bản sắc con người, và khoảnh khắc máy móc bước vào lĩnh vực ngôn ngữ là lúc thay đổi bắt đầu
- Dù bản chất của thay đổi đó vẫn chưa rõ ràng, vẫn tồn tại cảm nhận rằng “dòng chảy của sự thay đổi đang chuyển động”
Không phải động cơ tri thức mà là động cơ tạo ra sự chắc chắn
- Cần nhìn LLM như một động cơ tạo ra sự chắc chắn chứ không phải động cơ cung cấp tri thức
- Đây được đưa ra như một khái niệm giải thích đặc trưng cốt lõi của tương lai ngắn hạn và trung hạn
- Khi cách con người tư duy và sử dụng ngôn ngữ kết hợp với cơ chế máy móc tạo ra sự chắc chắn, những kiểu mẫu xã hội mới đang được hình thành
2 bình luận
AI cung cấp ‘hiệu ứng Dunning-Kruger’ như một dịch vụ
Ý kiến trên Hacker News
Mỗi lần dùng LLM tôi lại có cảm giác mình trở nên ngu đi hơn
Vì đó không phải kiến thức do tự học mà có, mà là cảm giác đang dựa dẫm, nên sự tự tin giảm xuống
Tôi có thói quen đối chiếu chéo nhiều nguồn như sách hay bài báo học thuật, nên câu trả lời của LLM chỉ cho cảm giác như một giá trị trung bình
Nhưng giờ mọi người lại trích Wikipedia như thể chân lý tuyệt đối. Có lẽ LLM rồi cũng sẽ như vậy theo thời gian
Thậm chí có người còn phàn nàn API bị down, nhưng thật ra là chatbot đã bịa ra endpoint
Cuối cùng nỗ lực tự tìm hiểu và tự thử nghiệm cũng giảm đi. Có lẽ chỉ những người có kỷ luật mới thực sự dùng tốt được công cụ này
LLM giống như sách của Bill Bryson: nghe rất hợp lý và đầy uy tín, nhưng ở lĩnh vực mình thật sự biết thì lại thấy có rất nhiều chỗ sai
Dù vậy, ta vẫn tiếp tục đặt kỳ vọng vào câu hỏi tiếp theo
Ví dụ tôi định gắn công tắc cho chiếc Miata đời 1990, và nhờ LLM mà lần đầu biết đến khái niệm rơ-le và công tắc DPDT
Sơ đồ mạch thì sai, nhưng nó vẫn giúp tôi định hướng việc học
Ngược lại, ở lĩnh vực không biết thì chỉ cần câu trả lời mức cơ bản thôi cũng đã đủ ấn tượng
Với người không biết thì nó có vẻ thuyết phục, nhưng nếu xây suy nghĩ trên thông tin sai thì cuối cùng sẽ ra kết quả méo mó hơn nữa
Có thể xem đoạn hội thoại ở đây
Hồi đại học khi nghe giảng tôi cũng có cảm giác tương tự
Trong lúc học thì tưởng như hiểu hết, nhưng khi tự giải bài mới nhận ra có rất nhiều chỗ bị hổng
Mã không phản ánh được ngữ cảnh của môn học nên phát sinh lỗi, và cuối cùng tôi phải sửa những chỗ đó
Học mà không phải vật lộn thì dễ tưởng là mình học tốt hơn, nhưng thực tế không phải vậy
Ví dụ Claude từng bảo nền móng tòa nhà của tôi có vấn đề nghiêm trọng, nhưng thanh tra thực tế chỉ cười và nói hoàn toàn không có vấn đề gì
Trên các subreddit về toán và vật lý cũng thỉnh thoảng có bài kiểu đã cùng ChatGPT tạo ra một lý thuyết thống nhất vật lý
Trước đây cũng có kiểu người như vậy, nhưng từ sau LLM thì nhiều hơn hẳn
Bài liên quan: liên kết Gizmodo
Trải nghiệm đọc LLM khá giống đọc báo
Với lĩnh vực không biết thì thấy như học được rất nhiều, nhưng ở lĩnh vực mình biết thì nhận ra ngay là toàn vớ vẩn
Vì thế tôi lo không biết với những chủ đề mình không biết thì nó còn sai đến mức nào
Giải thích trên Wikipedia
Ai cũng có thể xuất bản, còn video thì giờ cũng rất dễ bị thao túng
Cuối cùng điều quan trọng là khả năng sàng lọc nguồn
Khi nghe thông tin từ ChatGPT, tôi cũng áp dụng bộ lọc về nguồn và độ tin cậy giống như khi nghe từ người khác
Sau khi nghe câu trả lời, tôi không có cảm giác là “đã có kiến thức”, mà là đã có hướng để khám phá
Tức là với những câu mình không hiểu, hãy giả định rằng không phải do mình thiếu hiểu biết, mà có thể chính văn bản đó vô nghĩa
Rốt cuộc theo thời gian, thông tin sai cũng sẽ trộn vào thế giới quan của ta
Có quá nhiều bài viết giả vờ như rất chắc chắn về tương lai của LLM
Nhưng nhìn vào lịch sử, đã có rất nhiều trường hợp lượng (Quantity) làm thay đổi chất
Công cụ cờ vua, Google Search, Wikipedia đều bắt đầu từ những nguyên lý đơn giản nhưng quy mô dữ liệu đã tạo ra đột phá
LLM cũng chỉ là phép nhân ma trận đơn giản, nhưng biết đâu lại có thể xuất hiện một dạng trí tuệ mới như cách “thịt” (meat) suy nghĩ
Câu “LLM không phải cỗ máy tri thức mà là cỗ máy tạo tự tin” rất ấn tượng
Khi hỏi về vấn đề kỹ thuật mà nó trả lời “đó là vấn đề đã biết”, tôi thấy yên tâm rằng không phải mình ngu mà là đúng là bài toán khó
Ví dụ, khi tôi định đổi tab mặc định của debugger trong WebStorm, AI bảo “không có cách nào”, nên tôi đã tránh được việc lãng phí thời gian
Ngay cả khi tôi ném vào một vấn đề do mình bịa ra, nó vẫn có thể lừa rất khéo bằng cách nói “đó là một issue đã biết”
Tôi dùng LLM không phải như nguồn quyền uy mà như một tấm gương của tư duy
Trong lúc giải thích suy nghĩ của mình, tôi tự phát hiện ra sự rối rắm hay lỗ hổng logic của bản thân
Ngôn ngữ vốn dĩ đã không chắc chắn, còn LLM thì làm lộ sự không chắc chắn đó bằng thống kê
Vì vậy nếu tiếp cận một cách phản biện, nó ngược lại có thể trở thành công cụ tinh lọc tư duy
Cuối cùng điều quan trọng là thừa nhận rằng cả con người lẫn AI đều không hoàn hảo, và hãy đối xử với nó bằng sự hoài nghi như với một người lạ
Tôi đồng cảm với câu “LLM không tạo ra tri thức mà tạo ra sự tự tin”
Ngay cả khi không hoàn hảo, thái độ hành động với sự chắc chắn đôi khi lại mang đến kết quả tốt hơn
Đặc biệt với những người quá thận trọng, bản thân sự tự tin có thể là cốt lõi của năng suất
Sự chắc chắn không có căn cứ tạo niềm tin nơi người khác, và nếu điều đó lặp đi lặp lại thì ta sẽ học cách khiêm tốn và do dự
Vì lý do đó, thái độ học thuật đôi khi cũng trở nên tự giới hạn