- Những người tham gia sử dụng lời khuyên từ AI giảm mạnh tỷ lệ trả lời “không biết” từ 44% xuống 3%; độ chính xác giảm từ 27% xuống 9%, trong khi sự tự tin tăng từ 30% lên 76%
- Để phân biệt với việc ủy thác hợp lý cho công cụ, nhóm nghiên cứu dùng các câu hỏi AI thường trả lời sai, như chi tiết thị giác trong phim, và Step 3.5 Flash, vốn nhìn chung đưa ra đáp án sai
- Một số người tham gia lẽ ra có thể trả lời đúng nếu tự làm, nhưng sau khi hỏi AI lại chọn đáp án sai, xác nhận rằng lời khuyên sai từ AI có thể làm tổn hại cả phán đoán sẵn có
- Phần thưởng bằng tiền giúp tỷ lệ trả lời “không biết” cải thiện lên 8% và độ chính xác lên 16%, nhưng vẫn thấp xa so với mốc không dùng AI là 44% và 27%
- Chỉ riêng việc biết có thể dùng AI cũng có thể làm suy yếu thói quen nhận thức giới hạn tri thức của bản thân, điều này đặc biệt đáng lo với trẻ em và học sinh, những người đang phát triển tư duy phản biện
Tác động của lời khuyên AI lên phán đoán và sự tự tin
- Nghiên cứu của ba đại học tại Pháp và Ý đo lường cách việc tiếp cận lời khuyên từ AI làm thay đổi xu hướng trì hoãn phán đoán, độ chính xác và sự tự tin
- Tỷ lệ trả lời “không biết” giảm từ 44% xuống 3%
- Độ chính xác giảm từ 27% xuống 9%
- Sự tự tin tăng từ 30% lên 76%
- Nghiên cứu có sự tham gia của Valerio Capraro từ University of Milano-Bicocca, Chiara Marcoccia từ École Normale Supérieure và Walter Quattrociocchi từ Sapienza University of Rome
- Các câu hỏi gồm những chi tiết thị giác trong phim mà mô hình AI thường thất bại, chẳng hạn màu đồng phục đội bóng trong 《Bend It Like Beckham》
- Nhóm cố ý sử dụng Step 3.5 Flash, vốn nhìn chung trả lời sai các câu hỏi kiểu này, để phân biệt rằng sự suy giảm năng lực phán đoán không phải là kết quả của việc ủy thác hợp lý cho một công cụ đáng tin cậy
- Một số người tham gia chọn đáp án sai sau khi hỏi AI, ngay cả với những câu mà nếu tự trả lời họ đã có thể đúng
- Phần thưởng bằng tiền cải thiện một phần kết quả, nhưng không đạt tới mức chuẩn trong điều kiện không có AI
- Tỷ lệ trả lời “không biết” tăng từ 3% lên 8%, nhưng vẫn thấp hơn mốc 44%
- Độ chính xác tăng từ 9% lên 16%, nhưng chưa đạt mốc 27%
Sự đầu hàng nhận thức và lo ngại trong giáo dục
- Các nhà nghiên cứu tại Wharton gọi hiện tượng con người chấp nhận câu trả lời sai của AI với tỷ lệ 80% đồng thời thể hiện sự tự tin cao hơn người làm việc không có AI là
sự đầu hàng nhận thức (cognitive surrender) - Kết quả lần này không chỉ dừng ở việc tin vào câu trả lời sai của AI, mà còn cho thấy bản thân việc AI sẵn có đã kìm hãm thói quen nhận biết mình không biết điều gì
- Capraro nhấn mạnh rằng khả năng nói “không biết” rất quan trọng với con người, vì đó là việc nhận thức giới hạn tri thức của bản thân
- Trẻ em lớn lên cùng các hệ thống AI trước khi năng lực tư duy phản biện phát triển là nhóm đặc biệt đáng lo ngại
- Việc Google cải tổ AI Search đã thay các liên kết bằng những bản tóm tắt do AI tạo ra với giọng điệu tự tin, và Common Sense Media đánh giá thiết kế này là “rủi ro không thể chấp nhận” đối với học sinh
- Nếu tiếp tục sử dụng các sản phẩm AI được thiết kế để đưa ra câu trả lời và không nói “không biết”, con người cũng có thể học theo hành vi đó
1 bình luận
Ý kiến trên Hacker News
Nghiên cứu này khá sơ sài. Như bình luận này về PDF đã chỉ ra rất đúng, trong những gì được thử nghiệm không có yếu tố nào chỉ riêng hệ thống AI mới có
Nhóm nghiên cứu cung cấp cho người tham gia một LLM mà họ biết là sẽ đưa ra câu trả lời sai cho một số câu hỏi nhất định, rồi đặt đúng những câu hỏi đó trong điều kiện người tham gia không cần trả lời nếu không chắc
Điều này giống như đưa cho họ một cuốn giáo trình về một lĩnh vực xa lạ, trong đó có một số sự kiện sai, rồi kiểm tra chính những nội dung sai trong giáo trình đó. Đương nhiên người tham gia sẽ có khả năng trả lời cao hơn và cũng có khả năng trả lời sai cao hơn
Tôi rất quan tâm đến tác động của các LLM hiện đại lên việc học và sự tự tin, chẳng hạn xu hướng nịnh hót hay sự lười biếng nhận thức, nhưng nghiên cứu này không kiểm chứng yếu tố nào như vậy; nếu thay LLM bằng một cuốn giáo trình có lỗi, thiết kế thí nghiệm gần như không thay đổi
Tiêu đề tốt hơn sẽ là “AI rất thiếu chính xác khiến con người kém chính xác hơn”, nhưng như vậy tự nhiên sẽ dẫn tới câu hỏi: “Thế AI có độ chính xác vừa phải thì sao?”
Cũng như nếu không muốn nhận câu trả lời sai thì không nên mua giáo trình tệ cho nhân viên, có thể cũng nên tránh cung cấp AI cho những lĩnh vực họ không hiểu rõ
Ngoài ra, tìm câu trả lời trong giáo trình phiền phức hơn nhiều so với hỏi LLM, nên hiệu ứng có thể nhỏ hơn. Nếu không bắt buộc phải trả lời, ít người sẽ cố lục giáo trình; càng đúng hơn nếu trên bìa ghi “có thể có câu trả lời sai”
Tôi tự hỏi chuyện quản lý lặp lại lời khuyên của AI thay vì hỏi chuyên gia, hoặc nghi ngờ chuyên gia chỉ vì AI nói khác, sẽ xảy ra thường xuyên đến mức nào. AI đôi khi cũng đúng, nhưng khi nó sai thì rất khó sửa lại
Các subreddit về lời khuyên/thông tin đã suy giảm chất lượng nghiêm trọng vì việc dùng AI. Người hỏi muốn câu trả lời từ người có hiểu biết trực tiếp, nhưng nhiều người lại chuyển câu hỏi sang ChatGPT rồi đăng kết quả như thể đó là kiến thức và góc nhìn của chính mình
Tôi không biết chất lượng nghiên cứu ra sao, nhưng trong không gian nửa thực nửa ảo như Reddit, hiện tượng này rất rõ. Nó không chỉ dừng ở mức không nói “tôi không biết”, mà còn chủ động đi tìm cơ hội để giả vờ là mình biết
Cách của tôi là liên tục kiểm tra nguồn gốc và bằng chứng, nhưng việc đó tốn rất nhiều thời gian và công sức, và cũng khó chọn xem nên xác minh điều gì trước
Thà nói “hãy nhập xyz vào ChatGPT” hoặc chia sẻ một liên kết tài liệu có cấu trúc còn hơn. Nếu chỉ sao chép và dán nguyên kết quả thì trong quá trình đó không thêm được chút giá trị nào
Tất nhiên có thể lấy thông tin từ IMDB hay video DIY, nhưng điều tôi muốn là lời giải thích có ngữ cảnh và lời khuyên phù hợp với địa phương. Người biết tôi cũng biết điều gì dễ hay khó, và có thể nói rằng một bộ phim hay mẹo nào đó không phù hợp, hoặc nên đến cửa hàng nào
Yếu tố then chốt luôn là quản trị viên tích cực, bỏ nhiều quan tâm và thời gian khổng lồ. Khi số người đăng nội dung chất lượng thấp vượt ngưỡng, người dùng tốt sẽ rời đi và cộng đồng không thể phục hồi
Nhìn từ góc độ bi quan về AI, dù AI có thông minh hơn, nó vẫn sẽ tiếp tục chiều lòng người dùng, và mọi người sẽ dùng nó để củng cố những ý nghĩ ngớ ngẩn với sự chắc chắn lớn hơn, đặc biệt trong các lĩnh vực họ không biết rõ
Dù có thể giải quyết về mặt kỹ thuật, họ có thể sẽ không muốn một mô hình nói rằng mình sai, mà chọn những lời nói dối trôi chảy giúp củng cố niềm tin
Tự do biểu đạt khiến người ta nghĩ rằng mình có thể sai, nhưng tự do hiệp hội giúp họ né tránh điều đó. AI sẽ mở rộng các buồng vang an ủi của Internet lên quy mô khó tưởng tượng
Đó là thời kỳ máy tính bắt đầu tính toán nhanh hơn con người vài bậc độ lớn, và vụ sập Hartford Civic Center được xem như một thất bại do tin mù quáng vào đầu ra của máy tính. May mắn là không có ai thiệt mạng
Có vẻ hơi giống một ví dụ được chọn lọc, nhưng tổ hợp “độ chính xác thấp, sự tự tin cao” khiến tôi nhớ đến tai nạn này. Tôi lo rằng phải đến khi có thương vong dân thường hoặc trách nhiệm pháp lý thì cách dùng đúng của công nghệ mới mới được định hình; ít nhất có thể bắt đầu từ việc 1) không dùng trong các hệ thống thiết yếu về an toàn và 2) không thay thế chuyên gia bằng thuật toán
https://www.engr.psu.edu/ae/thesis/failures/MKP/failures/fai...
Nhưng những người làm việc thực sự bằng AI và trả nhiều tiền sẽ thích bị AI nói rằng mình sai hơn là bị sai trước mặt khách hàng
Vì vừa phải đưa ra câu trả lời đúng vừa phải làm theo mệnh lệnh, đây không phải vấn đề dễ giải quyết và cần sự cân bằng. Mô hình thông minh hơn có khả năng biết điều gì đúng cao hơn, nên nhìn chung tốt hơn các mô hình nhỏ vốn giả định người dùng đúng rồi tiếp tục ảo giác
Tuy vậy, sẽ rất thú vị nếu người dùng có thể dễ dàng chọn tính cách của AI, hoặc mức độ nó phản biện các ý tưởng được nhập vào
Nếu không có pipeline sinh có tăng cường truy xuất (RAG) hoặc tìm kiếm web đúng nghĩa, nó chỉ có thể đưa ra ảo giác với mức độ chắc chắn tối đa
Sẽ thú vị hơn nếu thí nghiệm với một mô hình hàng đầu được căn chỉnh đúng để từ chối trả lời khi xác suất token thấp. Thí nghiệm hiện tại chỉ chứng minh rằng mọi người có xu hướng tin vào những đoạn văn được viết tốt hiển thị trong UI chat
Với những ai vẫn coi trọng sự thật, câu nói này của Richard Feynman có thể là một cột mốc: “Tôi có lợi thế là đã phát hiện ra việc thật sự biết một điều gì đó khó đến mức nào, phải kiểm chứng thí nghiệm cẩn thận ra sao, và việc phạm sai lầm rồi tự lừa dối mình dễ đến mức nào…”
https://www.youtube.com/watch?v=tWr39Q9vBgo
Cấu trúc thưởng của nghiên cứu là trả 0,10 đô la nếu đúng, trừ 0,10 đô la nếu sai, và không thay đổi nếu từ chối trả lời
Không thấy ghi liệu người tham gia có thực sự nhận tiền hay không, hoặc nếu số dư cuối cùng âm thì có phải trả khoản lỗ đó không
Tôi cho rằng hiệu ứng này là có thật, nhưng có lẽ không lớn như dữ liệu thể hiện. Nếu số tiền đặt cược lớn hơn nhiều, lẽ thường có lẽ đã phát huy mạnh hơn
Việc giới thiệu nghiên cứu là tốt, nhưng không liên kết nguồn nào dẫn trực tiếp đến nghiên cứu được trích dẫn; chúng đều dẫn về tên miền riêng hoặc Business Insider
Marcoccia, C. và cộng sự, 《AI Advice Suppresses People’s Willingness to Say “I Don’t Know”, Even When the Advice Is Wrong and Accuracy Is Incentivized》, PsyArXiv, ngày 15 tháng 7 năm 2026
Tôi muốn biết liệu AI có tạo ra khác biệt thực chất so với một môi trường chỉ đơn giản là có thể tiếp cận câu trả lời sai hay không
Cần kiểm tra xem nếu kết quả tìm kiếm đưa ra câu trả lời sai cho câu hỏi thì có cho ra kết quả tương tự không, các đặc tính riêng của AI như xu hướng nịnh bợ hay tương tác hội thoại đóng vai trò đến đâu, hay chỉ đơn giản là mọi người dễ tin vào những gì họ đọc
Tóm lại, họ đã nghiên cứu cả điều kiện dùng giao diện chat LLM đưa ra câu trả lời sai và điều kiện tiếp cận các câu trả lời sai được tạo sẵn, và hai thí nghiệm cho kết quả tương tự
Một số giáo viên cho biết họ để học sinh dùng ChatGPT viết bài rồi yêu cầu phê bình những phần sai
Ở những nơi mà bình thường học sinh có thể chỉ sao chép nguyên câu trả lời của AI để nộp, cách trước tiên đưa ra câu trả lời của AI rồi để cộng đồng thảo luận xem nó bỏ sót điều gì cũng có thể khá thú vị