- Benn Jordan gần đây liên tục nhận được các tin nhắn và gắn thẻ yêu cầu anh làm rõ lập trường liên quan đến Israel
- Điều này khá kỳ lạ, vì từ trước đến nay anh luôn công khai bày tỏ rằng mình phản đối nạn diệt chủng và ủng hộ việc thành lập nhà nước Palestine
- Sau khi kiểm tra, anh phát hiện Google AI Overview đã tạo ra và phát tán dưới tên Benn Jordan một elaborate story (câu chuyện tinh vi nhưng sai sự thật)
- Nội dung mà Google AI Overview tổng hợp về Benn Jordan
Benn Jordan, một nhạc sĩ điện tử và YouTuber khoa học, gần đây đã can dự vào xung đột Israel–Palestine, gây ra nhiều tranh cãi và tranh luận trực tuyến, khi anh được cho là đã đăng một video YouTube có tiêu đề "I Was Wrong About Israel: What I Learned on the Ground", trong đó anh chia sẻ trải nghiệm du lịch Israel và phỏng vấn cư dân tại các kibbutz gần biên giới Gaza. Video này được cho là ghi lại việc anh trực tiếp tìm hiểu cuộc xung đột thông qua các cuộc phỏng vấn với cư dân kibbutz gần biên giới Gaza, và sau khi được công bố đã làm bùng lên tranh luận cùng bình luận trên khắp mạng xã hội..
- Nội dung mà Google AI Overview tổng hợp về Benn Jordan
- Nhưng Benn Jordan chưa từng đến Israel. Anh cũng chưa từng đăng video như vậy, và đây là sự nhầm lẫn với một người tên Ryan McBeth, người đăng các video quân sự
- Kết quả AI này khiến những hiểu lầm trái ngược với lập trường thực tế của anh lan rộng, và cuối cùng tạo ra dư luận sai lệch hoặc áp lực xã hội đối với người dùng
- Benn Jordan đang trao đổi với luật sư để xem có thể khởi kiện hay không
4 bình luận
AI Overview vốn nổi tiếng là độ tin cậy thấp, nhưng vụ này thì khá nghiêm trọng.
Cái này đáng để kiện luôn ấy chứ....?
Wow, câu chuyện này thật sự quá sốc.
Nếu một tình huống như thế này xảy ra với tôi vì một vấn đề nào đó, nghĩ đến những chuyện có thể xảy ra thôi cũng đã thấy kinh khủng.
Ý kiến trên Hacker News
Tôi nghĩ đây là một ví dụ tiêu biểu cho mức độ mà hiện tượng AI ảo giác và độ thiếu chính xác sẽ ảnh hưởng lớn đến cuộc sống của chúng ta trong tương lai; vấn đề này cực kỳ tinh tế và quan trọng nhưng thực tế lại chỉ được bàn tới qua các tiêu đề, điều đó khiến tôi thấy đáng sợ, nhất là khi công chúng không thực sự hiểu công cụ này hoạt động như thế nào; trước đây dù là con người thì ít nhất họ còn lướt qua thông tin, còn với AI thì ngay cả điều đó cũng khó mà kỳ vọng
Tôi đã nhiều lần thấy mọi người sao chép kết quả hội thoại hay câu trả lời từ AI rồi dùng trong GitHub issue, email, v.v.; và tôi cảm nhận ngày càng nhiều người có xu hướng tin tưởng đầu ra của các mô hình này một cách thiếu phê phán; phần “tóm tắt” xuất hiện trên cùng của kết quả tìm kiếm Google cũng vậy; gần như mọi bản tóm tắt tôi từng đọc đều có ít nhất một lỗi nghiêm trọng, và tôi nghĩ nếu đó là chủ đề tôi không rành thì có lẽ tôi đã tin luôn; nhìn chung câu “tin nhưng phải kiểm chứng” ngày càng trở nên quan trọng, nhưng thật ra giờ tôi cho rằng ngay cả mức độ tin tưởng cũng phải bị hạn chế
Lập luận rằng việc thu thập hàng loạt nội dung có bản quyền để tạo ra mô hình AI là một tác phẩm mang tính biến đổi đang được dùng làm cơ sở biện minh; nếu lập luận này đúng, tôi nghĩ các công ty như Google phải chịu trách nhiệm cho những kết quả như vậy; nếu là tác phẩm biến đổi thì không thể đẩy trách nhiệm sang cho người khác; không thể cho phép các tập đoàn này lấy cả hai đầu như vậy; tôi tò mò cuộc tranh luận này rồi sẽ đi về đâu
Tôi nghĩ nên ngừng đánh giá con người dựa trên lập trường của họ về Israel và Hamas, và nếu không giao du với những người như vậy thì cũng không sao; nếu ai đó diễn đạt sai ý kiến của tôi thì tôi cũng không quá bận tâm; để làm được vậy thì có lẽ phải bỏ Bluesky hay HN, những nơi có nhiều thảo luận chính trị kiểu này, nhưng ngay cả những ý kiến chính đáng cũng đã bị truyền tải sai lệch và thiên kiến rất nặng, còn AI thì đúng kiểu tung đồng xu; nếu ai đó muốn thuyết phục tôi rằng họ thực sự hiểu rõ chủ đề này thì tôi sẵn sàng lắng nghe, nhưng tôi nghĩ không cần làm điều đó ở đây
Tôi nghĩ Google phải chịu trách nhiệm cho những kết quả như thế này, vì họ là bên xuất bản và lưu trữ nội dung đó nên phải chịu trách nhiệm cho toàn bộ nội dung phỉ báng
Câu chuyện này có lẽ sẽ lớn đến mức lấn át cả vụ video giả, rồi AI lại tự động tóm tắt tranh cãi về video giả đó dựa trên các kết quả tìm kiếm hàng đầu
Tôi thử tìm kiếm "benn jordan isreal", kết quả đầu tiên lại là một video của một creator hoàn toàn khác nhưng có cùng tiêu đề và cùng ngày đăng; trong video không hề nhắc đến "benn", còn "jordan" chỉ được nhắc thoáng qua như tên một quốc gia; có lẽ chỉ vậy thôi mà Google đã ảo giác ra một mối liên hệ nào đó, rất đáng lo ngại
https://www.youtube.com/watch?v=qgUzVZiint0
Tôi nghĩ gần như chắc chắn đây chính là chuyện đã xảy ra thật; câu trả lời AI của Google không phải phép màu, nó chỉ đơn thuần tóm tắt các kết quả tìm kiếm; trong trường hợp này, nó kéo về một video có nhắc cùng lúc đến "Israel" và "Jordan" rồi đưa ra nội dung theo lập trường hoàn toàn ngược lại; giao diện lại che giấu nhiều ngữ cảnh nên rất khó xác định chỗ nào sai, còn ở AI mode thì nó chạy nhiều lượt tìm kiếm, tổng hợp snippet từ hơn 100 website rồi mới rút ra bản tóm tắt
Điểm thú vị trong cuộc thảo luận này là nó khiến tôi tự hỏi liệu việc dùng kết quả tìm kiếm về các chủ đề phổ thông làm nền tảng cho huấn luyện LLM hay truy xuất thông tin có phải là hiện tượng phổ biến không
Nếu biết AI translation thực sự hoạt động như thế nào thì có lẽ bạn còn ngạc nhiên hơn; nó bẻ nhiều ngôn ngữ về kiểu tiếng Anh Mỹ
Người ta chủ yếu Google những thứ mình không quen thuộc, và nội dung do AI Overview tạo ra trông rất hợp lý với những ai không biết rõ, nhưng thực tế lại sai rất nhiều; không chỉ những vấn đề lớn như lần này mà trước đây còn từng có vụ nó khuyên bôi keo dán lên pizza; chỉ cần thử tìm trên Google vài chủ đề bạn thật sự rành rồi xem phần tóm tắt tổng thể là sẽ thấy nó sai khá thường xuyên; theo trải nghiệm của tôi, chỉ khoảng 1 trong 5 là không có lỗi lớn; người ta nói “số nhiều của dữ liệu không phải là giai thoại”, nhưng vì nó sai quá thường xuyên nên tôi đã cài extension để chặn
Tôi nhận thấy khi áp dụng cho nội dung đã tĩnh và được tổ chức tốt như Wikipedia hay blog thì nó khá chính xác; ngược lại với thông tin động, đặc biệt là SNS, nó rất dễ nối sai các mối quan hệ rồi cho ra kết quả sai; nhìn chung mọi người đang kỳ vọng quá nhiều vào AI Overview. Google AI Overview hoàn toàn không vượt trội nếu so với tính năng web search của Claude, Grok, ChatGPT, v.v.; ngược lại còn thua ở nhiều mặt; tôi nghĩ đây là tính năng bị nhét vào gượng ép vì thế độc quyền trong khám phá thông tin đang bị OpenAI và những bên khác đe dọa
Tôi cảm thấy độ chính xác của AI Overview tốt hơn trước lại càng là vấn đề; trước đây nó sai đủ thường xuyên và sai quá rõ ràng nên dễ bỏ qua; bây giờ nó đúng khá thường xuyên và lúc nào cũng nghe có vẻ hợp lý, nên tạo ra cám dỗ muốn phụ thuộc vào nó hơn
Tôi xin giới thiệu bản diễn đạt lại của lời giải thích hay nhất về loại thông tin sai lệch AI “nghe có vẻ hợp lý”: bản tóm tắt AI giống như một dạng podcaster phổ thông hay YouTube essayist nói về một chủ đề kỹ thuật hoặc quá chuyên sâu — hình thức và sự tự tin bóng bẩy đến mức gần như nghe như sự thật, nhưng nếu bạn là chuyên gia về chủ đề đó thì sẽ nhận ra gần như mọi thứ họ nói đều sai, hoặc ít nhất là hời hợt; kiểu tự tin thái quá này lại càng khuếch đại “tín hiệu chính xác” đối với người bình thường vốn không có tri thức vững vàng, và vì hầu hết chúng ta không có hiểu biết sâu về 90% các chủ đề nên vấn đề này trở nên nghiêm trọng
Trong một trường hợp AI ảo giác, có nội dung nói rằng vào ngày 18 tháng 8 năm 2025 Benn Jordan đã đăng một video chia sẻ trải nghiệm du lịch Israel, nhưng đây lại đúng là tiêu đề video gần đây của Ryan McBeth
https://youtu.be/qgUzVZiint0?si=D-gJ_Jc9gDTHT6f4
Việc nó đơn giản nối nhầm nguồn video như vậy thật sự đáng sợ
Ban đầu tôi tưởng có hai người tên Benn Jordan nên AI bị nhầm, nhưng người thực sự đăng video đó là Ryan McBeth; tôi tò mò sai sót kiểu này xảy ra như thế nào
Có thể mô hình mà Google dùng trên trang tìm kiếm kém thông minh hơn để tiết kiệm chi phí; tôi nghi ngờ đây có phải chiến lược tốt cho một sản phẩm chủ lực như tìm kiếm hay không; cá nhân tôi nghĩ thà loại hẳn AI khỏi tìm kiếm còn hơn
Có lẽ trong video có đoạn nhắc đến từ "Jordan", và vì đó là một quốc gia gần Israel nên đã tạo ra mối liên hệ sai
Hóa ra khi tìm trên YouTube, video của Ryan đứng trên video của Benn; tôi nghĩ AI chỉ lấy kết quả tìm kiếm YouTube làm sự thật mà không kiểm tra cả tên kênh
Đây không phải trách nhiệm của Google, vì ở cuối màn hình có dòng chữ 6pt ghi rất rõ: "Câu trả lời AI có thể chứa lỗi. Tìm hiểu thêm"
Đây là trách nhiệm của Google, bởi vì họ đang tạo ra và trực tiếp phân phối nội dung mang tính phỉ báng; hãy thử nghĩ xem bạn sẽ cảm thấy thế nào nếu ai đó tìm tên bạn và dòng đầu tiên hiện ra là bạn là tội phạm tình dục ở một thành phố nào đó; đó không phải trích dẫn lời ai khác, mà chỉ là một ảo giác hoàn toàn vô căn cứ; dù bên dưới có cảnh báo cỡ chữ rất nhỏ rằng nó có thể sai, hầu như sẽ không ai nghĩ “thế là ổn rồi”
Có người nói dòng hướng dẫn là cỡ 6pt, nhưng khi tôi kiểm tra phần tử thì thực tế là 12px (9pt); để tham chiếu, cỡ chữ phần thân bài thông thường, trừ header, là 18px; nó đủ nhỏ để khó nhận ra nhưng chưa đến mức hoàn toàn không nhìn thấy
Vài tuần trước, một doanh nghiệp nhỏ quanh chỗ tôi phát hiện AI của Google đã báo sai cho người dùng rằng công ty họ là lừa đảo chỉ vì thông tin của một doanh nghiệp không liên quan nhưng có tên tương tự; rốt cuộc dịch vụ cốt lõi của chúng tôi lại trở thành việc ngăn AI làm tổn hại danh tiếng của khách hàng
Về câu "Câu trả lời AI có thể chứa lỗi", tôi nghĩ thà để mọi người dần học cách tự động lọc bỏ các bản tóm tắt AI giống như cách họ phớt lờ quảng cáo còn tốt hơn
https://news.ycombinator.com/item?id=44142113
Giờ nếu pháp luật không vào cuộc để làm gương, sớm muộn gì cũng sẽ có một thảm họa thật sự lớn do AI gây ra
Tôi muốn hỏi dựa trên cơ sở nào mà pháp luật phải can thiệp; thông thường sai thì không bị trừng phạt; phỉ báng phải có chủ ý, nhưng trong trường hợp này rõ ràng không có chủ ý đó; đa số AI cũng đều có cảnh báo về lỗi và ảo giác; ở một số nước như Pháp, đương sự có quyền yêu cầu cải chính, và theo bài viết thì có vẻ Gemini đã nhận biết lỗi này và sửa rồi; nếu coi AI ảo giác là bất hợp pháp thì chính bản thân LLM có thể sẽ trở thành bất hợp pháp; thay vào đó, hướng bắt buộc có cơ chế báo cáo thông tin sai và bộ lọc thì khả thi hơn về mặt kỹ thuật
Tôi muốn hỏi lại chính xác “làm gương” ở đây nghĩa là gì; tôi cũng đồng ý chuyện làm sạch ô nhiễm AI, nhưng phản đối một xã hội lấy kiện tụng làm trung tâm; tôi nghĩ các biện pháp pháp lý trên thực tế cũng có thể nhanh chóng bị lạm dụng
Tiếp cận từ góc độ kỹ thuật, có một nghiên cứu cho thấy việc tóm tắt bị lỗi do kết quả dựa trên snippet ngắn của Google
Google phải hỗ trợ AI summary ở mức 200.000~500.000 truy vấn/giây; dùng mô hình đủ tốt để ngăn ảo giác thì quá đắt, nên rốt cuộc họ dùng mô hình yếu hơn nhưng nhanh và rẻ; cung cấp bản tóm tắt còn làm giảm CTR quảng cáo; xét tất cả các yếu tố đó, tôi nghĩ việc Google áp dụng cách tóm tắt này là một quyết định rất tệ
https://maxirwin.com/articles/interleaving-rag/