Câu trả lời của AI có thể chứa sai sót
(os2museum.com)- Tóm tắt AI của Google đã bịa ra các thông số có vẻ hợp lý về chiếc IBM PS/2 Model 280 không hề tồn tại, và ngay cả với cùng một truy vấn thì câu trả lời cũng தொடர்ந்து thay đổi
- Câu trả lời sai mô tả Model 280 là hệ thống 286 dựa trên ISA, đồng thời trộn lẫn các chi tiết như ra mắt năm 1987, 1MB RAM, 640KB RAM, VGA và ổ đĩa 1.44MB
- Một số câu trả lời còn nói hệ thống 286 này có thể mở rộng tới 128MB RAM, nhưng giới hạn kiến trúc của 286 là 16MB, nên ngay trong chính câu trả lời cũng lộ ra mâu thuẫn
- Khi lặp lại cùng một truy vấn nhiều lần, đôi khi cũng xuất hiện đáp án đúng rằng “Model 280 không phải là một mẫu cụ thể trong dòng PS/2”, nhưng tỷ lệ này chỉ khoảng 10%
- Vì tóm tắt tìm kiếm bằng AI càng nhiều chi tiết thì càng dễ thuyết phục người không chuyên, nên khó có thể xem nhẹ cảnh báo “AI responses may include mistakes”
Trường hợp PS/2 Model 280 không hề tồn tại
- Để tìm một hệ thống IBM PS/2 Server vào khoảng năm 1992, tác giả đã nhập tên model vào Google, nhưng chiếc máy thực sự muốn tìm là một hệ thống dùng nhiều bộ xử lý 486 và Microchannel (MCA)
- Tóm tắt AI trong kết quả tìm kiếm đã đưa ra câu trả lời lệch mục tiêu ngay từ đầu
- Mô tả PS/2 Model 280 như một hệ thống dựa trên 286
- Trình bày như thể nó dựa trên ISA chứ không phải Microchannel
- Ngay cả khi chạy lại cùng truy vấn, chỉ có cách diễn đạt câu trả lời thay đổi, còn nội dung vẫn tiếp tục mô tả Model 280 là hệ thống 286 dựa trên ISA
Thông số giả thay đổi càng nhiều khi lặp lại
- Tóm tắt AI đưa ra các thông số khác nhau mỗi khi lặp lại truy vấn
- Một câu trả lời nói Model 280 có 1MB RAM và có thể mở rộng lên 6MB
- Câu trả lời khác lại nói RAM cơ bản là 640KB
- Nó cũng lặp đi lặp lại mô tả như thể máy có ổ đĩa 1.44MB và đồ họa VGA
- Trong một lần thử khác, Model 280 còn được giới thiệu là hệ thống 286 có thể mở rộng tới 128MB RAM
- 286 về mặt kiến trúc có giới hạn 16MB, nên mô tả này không đúng về kỹ thuật
- Tóm tắt AI còn nói Model 280 là một bước tiến quan trọng trong dòng máy tính cá nhân của IBM và đã giúp PS/2 trở thành một nền tảng phổ biến, đáng tin cậy
Lỗi cốt lõi: không hề có Model 280
- Vấn đề lớn nhất là bản thân mẫu PS/2 Model 280 chưa từng tồn tại
- Dù nhập sai số model, Google AI vẫn tạo ra một lời giải thích thoạt nhìn rất hợp lý
- Những câu trả lời như vậy có nhiều chi tiết và câu văn tự nhiên, nên ngay cả nội dung không đúng sự thật cũng có thể dễ dàng trông như thông tin đáng tin
Đáp án đúng chỉ thỉnh thoảng mới xuất hiện
- Nếu lặp lại cùng truy vấn đủ nhiều lần thì vẫn có lúc xuất hiện câu trả lời đúng
- “Model 280 không phải là một mẫu cụ thể trong dòng PS/2”
- Tức là truy vấn ban đầu tự thân đã có lỗi
- Tuy nhiên, trong các lần truy vấn lặp lại, câu trả lời đúng chỉ chiếm khoảng 10%, còn ở phần lớn thử nghiệm thì AI bịa ra nội dung
- Câu trả lời ảo giác không chỉ vô ích, mà đáp án sai còn có thể trông “thật” hơn cả đáp án đúng
Khi nào tóm tắt tìm kiếm bằng AI trở nên nguy hiểm
- Nếu là chuyên gia, người ta có thể nhận ra sự không nhất quán trong câu trả lời khá nhanh
- Ví dụ, kiểm tra List of IBM PS/2 Models trên Wikipedia sẽ xác nhận rằng không có Model 280
- Người không chuyên vừa có khả năng nhận được trợ giúp từ tóm tắt tìm kiếm bằng AI, vừa có nguy cơ bị đánh lừa bởi câu trả lời sai cao hơn
- Một trợ lý nghiên cứu cứ mỗi lần lại đưa ra câu trả lời khác nhau và chỉ thỉnh thoảng mới đúng thì rất khó để tin cậy
- Cụm từ “AI responses may include mistakes” của Google không chỉ là một câu cảnh báo đơn giản; các bản tóm tắt do AI tạo ra có thể là thông tin sai hoàn toàn không liên quan đến thực tế
2 bình luận
Có lẽ chỉ nên dùng LLM để tóm tắt. Nhất định phải có quá trình tìm nguồn dữ liệu và kiểm chứng.
Các ý kiến trên Hacker News
Gemini trong Google Search không quan tâm đến ngữ cảnh hay độ chính xác, mà tùy tiện bịa ra những nội dung trông như đang ủng hộ truy vấn tìm kiếm. Gần như là bịa đặt ký ức (confabulation) hoàn toàn; tự thử sẽ thấy rất phi lý
Khi bạn đã biết sẵn kết quả mình đang tìm, nó có thể dùng như công cụ hỗ trợ trí nhớ, nhưng nếu bạn chưa biết gì thì hoàn toàn khó tin
Kết quả của Google Veo nếu nhìn kỹ cũng đầy lỗ hổng tương tự, và dường như không có dấu vết nào cho thấy suy luận đã can dự vào đầu ra
Lỗi lố bịch của Veo: https://arstechnica.com/ai/2025/05/ai-video-just-took-a-star...
Một trường hợp Tesla FSD hành xử kỳ lạ: https://electrek.co/2025/05/23/tesla-full-self-driving-veers...
Như Ben Evans cũng nói, lời hứa rằng “nó sẽ tốt hơn” có giới hạn, và rốt cuộc là một lời hứa rỗng tuếch
Hôm qua, khi tôi tìm một sự kiện tưởng niệm diễn ra tại một địa điểm biểu diễn ở Berlin, AI Overview đã tạo nguyên một album không tồn tại của một nhạc sĩ Ý đã qua đời
Về cơ bản nó chỉ lấy tên địa điểm biểu diễn rồi khẳng định đó là tác phẩm quan trọng nhất của nghệ sĩ đó
Buồn cười là khi tôi dán câu trả lời đó vào ChatGPT, nó mỉa mai và châm biếm rất cay độc lỗi của AI Overview, khiến tôi bật cười
Ngày trước chắc chắn nó sẽ không bao giờ qua được, nhưng giờ thì bầu không khí là đại khái cũng ổn
Tôi không hiểu vì sao chúng ta phải chấp nhận các kết quả sai sự thật hoặc không chính xác
Vệ sinh thông tin vốn đã quan trọng, nhưng về sau có lẽ sẽ trở thành một kỹ năng thật sự thiết yếu
[năm sản xuất] [hãng] [mẫu xe] [tính năng]. Đây là kiểu truy vấn mà Google ngày xưa đáng lẽ xử lý hoàn hảo, nhưng giờ 90% trang kết quả lại là rác AI về sai mẫu xe, sai năm sản xuất, thậm chí sai cả hãngÍt ra cũng có một video YouTube phần nào hữu ích, nhưng phải xuống tận cuối trang tôi mới tìm được câu trả lời kiểu Google ngày xưa nằm trong một diễn đàn xe hoàn toàn khác. Cảm ơn CamaroZ28.com
Tôi biết thực tế gần đó chỉ có một nhà tù, Costco, vài căn nhà nông thôn, và một khoảng trống chẳng có gì
Thật kinh ngạc khi thấy họ nhét đầy phần đầu trang tìm kiếm bằng thứ rác hoàn toàn sai sự thật và bị bịa đặt
Với các chủ đề như luật lao động hoặc những tìm kiếm khác, nó cũng thường xuyên trả về thông tin tệ
Chuyện này hẳn đã buồn cười nếu người ta không thật sự dựa vào nó
Hiện tượng này thật sự gây bực bội. Tôi hiểu, hoặc ít nhất cũng biết, về tính xác suất và các giới hạn của LLM, nhưng khi tôi chỉ ra rằng vợ hoặc bạn bè đang dùng LLM sai chỗ cho những tác vụ không phù hợp và không đáng tin, họ chỉ xua tay rồi gạt đi rằng tôi là người hoài nghi AI
Họ vẫn bắt LLM làm tính, chẳng hạn như chia hóa đơn, và cũng xem kết quả tra cứu dữ liệu thực tế là đáng tin và chính xác 100%
Điểm mấu chốt là chatbot có thể làm nhiều loại tác vụ, vậy liệu có lý do gì để chuyển ngữ cảnh sang một ứng dụng hoàn toàn khác chỉ vì việc như thế này không
Tôi nghĩ chuyện này sẽ xuất hiện thường xuyên hơn trong các trường hợp sử dụng khác, và cuối cùng tính tiện dụng sẽ thắng tất cả
Những câu miễn trừ trách nhiệm đơn giản như “Phản hồi của AI có thể chứa sai sót” hay dòng ở cuối ChatGPT rằng “ChatGPT có thể mắc lỗi. Hãy kiểm tra thông tin quan trọng” giờ rõ ràng là không đủ
Thực tế là tin tức về việc người ta bị thiệt hại vì ảo giác của LLM trong các lĩnh vực cụ thể đã kéo dài nhiều năm, vậy mà mọi người vẫn tiếp tục mắc phải; nên chừng nào nhà cung cấp chưa thể sửa hoàn toàn hiện tượng ảo giác, họ cần giáo dục người dùng tích cực hơn nhiều về khả năng có lỗi
Dù có làm tăng ma sát thì vẫn cần thiết
Ma sát vốn đã tồn tại rồi. Các công ty AI và nhà cung cấp đám mây đều đang vận hành “mô hình bị kiểm duyệt”, và ở mỗi tầng lại có thêm nhiều lớp kiểm duyệt hơn
Vậy “ma sát lớn hơn” ở đây là gì? Hiển thị thêm popup à?
Nếu chọn phương án đầu, về cơ bản chẳng khác nào giết chết mảng kinh doanh hosting mô hình
Các công ty vẫn có thể phát triển mô hình để dùng nội bộ và cung cấp cho nhân viên, nhưng API công khai sẽ biến mất
Các công ty với nhau sẽ sử dụng hoặc cấp phép mô hình thông qua hợp đồng có tính ràng buộc pháp lý, nhưng công chúng nói chung sẽ không được tiếp cận nếu không có cơ chế giảm thiểu rủi ro pháp lý
Vài năm sau, khi thái độ dịu lại, một số công ty có thể bắt đầu đẩy ranh giới, chẳng hạn tự động hóa quy trình phê duyệt pháp lý hoặc mở đăng ký
Khi Google Maps đưa người dùng đến những nơi sai như một khu phố đáng ngờ nào đó, chuyện đó cũng lên tin tức và họ phải xử lý khủng hoảng PR
Còn giờ chỉ cần gắn một câu miễn trừ trách nhiệm như vậy là xong
Sự khoan dung của dư luận dành cho các công nghệ này thật mất cân đối và đáng nản
Có lẽ khá khó để tạo ra một câu miễn trừ trách nhiệm hiệu quả bằng việc bị cắn một lần
Như CEO Anthropic gần đây đã nói về thất nghiệp hàng loạt, họ đã nhiều lần phát ngôn theo hướng đó
Tôi không hiểu việc nhấn mạnh khả năng có lỗi có thể cùng tồn tại thế nào với lời hứa thay thế lao động con người
Mô hình ngôn ngữ không được thiết kế để biết điều gì đó, mà được thiết kế để nói điều gì đó. Vì vậy nó được gọi là mô hình ngôn ngữ, không phải mô hình tri thức
Khi đã có các từ được tạo ra trước đó, nó tiếp tục thêm từ tiếp theo dựa trên mức độ phổ biến của chuỗi đó
Lý do mỗi lần câu trả lời khác nhau là vì bộ sinh số giả ngẫu nhiên ảnh hưởng đến việc chọn từ tiếp theo
Mô hình nhìn vào phân phối xác suất của những từ tiếp theo có khả năng cao nhất, và nếu thiết lập
temperaturebằng 0 thì không có ảnh hưởng ngẫu nhiên, nên luôn chọn từ tiếp theo có khả năng cao nhất, tức top-1 MLETrên GUI thực tế không thể đặt bằng 0, vì làm vậy sẽ tạo ra đầu ra mà chúng ta phân loại là “rất nhàm chán”
Do đó mô hình không hề biết gì về IBM, PS/2, 80286 và 80486, CPU, 280, hay chính mẫu máy cụ thể đó
Một câu trả lời nào đó dường như ám chỉ không có mẫu 280, nên tôi tò mò không biết nó được tạo ra bằng một quy trình khác, do cách phản ánh phản hồi người dùng bằng học tăng cường, hay chỉ là kết quả may mắn từ cùng quá trình chọn từ tiếp theo ngẫu nhiên
Tôi nghĩ lý do UI đám mây không cho phép temperature 0 là vì mô hình đôi khi rơi vào vòng lặp lặp token vô hạn, và nếu công chúng thấy điều đó thì cảm giác nhập vai có thể bị phá vỡ
Google có vẻ đang phạm sai lầm khi biến việc cung cấp tri thức thành việc cung cấp từ ngữ
Tuy nhiên xét từ góc độ hoạt động kinh doanh thực tế là doanh thu quảng cáo, có lẽ chẳng có khác biệt gì
Trên website Google Search, câu miễn trừ trách nhiệm yếu ớt “Phản hồi của AI có thể chứa sai sót” được hiển thị bằng chữ nhỏ, lại còn bị giấu sau nút Show more
Khi OpenAI ra mắt ChatGPT, tôi đã phải giải thích với một giáo sư không thuộc ngành khoa học máy tính rằng đây không phải là loại AI như mọi người nghĩ, mà hiện tại gần với trò nghịch tính toán trông giống AI hơn
Nhưng hóa ra trò nghịch này lại cực kỳ hữu ích cho việc gian lận bài tập
Nếu không quá bận tâm đến chất lượng hay bản quyền, nó cũng rất tiện để dùng như một mánh lới trong nhiều loại công việc khác
Tranh luận kiểu “không phải người Scotland đích thực” về việc bên trong nó làm gì là vô nghĩa
Vì chúng ta cũng đâu biết bên trong não người làm gì
Gemini có vẻ được tinh chỉnh để trả lời những câu hỏi mà mọi người thường nhập vào, nhưng nếu đưa vào các truy vấn theo kiểu tìm kiếm truyền thống hơn thì nó lại sinh ra những lời bịa đặt nhảm nhí
Tôi đã thấy rất nhiều người tin AI Overview như thể đó là lời phán của thần
Tôi nghĩ đây là cách những người “bình thường”, không trực tiếp dùng LLM, tương tác với AI
Nó cũng không phân hóa theo độ tuổi như mức độ tin vào tin tức; niềm tin vào đầu ra AI dường như cắt ngang hầu hết các nhóm dân cư
Có vẻ loài người thích những câu trả lời từ máy tính đầy tự tin nhưng không có căn cứ
Suốt hơn 10 năm, vị trí đó trên trang tìm kiếm là UI “đoạn trích từ trang”, và điều đó hợp lý
Nó giúp giảm một cú nhấp, và nếu bạn tin trang gốc cũng như phần nào tin công nghệ trích xuất đoạn của Google thì chẳng có mấy lý do để nghi ngờ
Ví dụ khi tìm một câu hỏi y khoa đơn giản mà hiện đoạn trích từ Mayo Clinic, vì tin Mayo Clinic nên như vậy là đủ
Thỉnh thoảng tôi còn sao chép đoạn trích của Google rồi vào trang và dùng
ctrl-fđể tìmGoogle từng chọn nguồn uy tín khá tốt, và đoạn trích cũng luôn có thể tìm thấy trong trang theo cách không bóp méo ngữ cảnh, nên như vậy đủ để xây dựng niềm tin
Theo thời gian, hệ thống đó kém dần trong việc chọn nguồn đáng tin cậy, có lẽ vì bị SEO khai thác
Nhưng giờ AI Overview đã thay thế vị trí đó
Tôi không phản đối bản thân AI, nhưng AI về cơ bản khác với “hiển thị trong vài mili giây một đoạn trích liên quan, có thể kiểm chứng, lấy từ nguồn mà bạn tin cậy”
Nếu lần thử đầu không xác nhận được, anh ấy sẽ diễn đạt câu hỏi theo cách khác cho đến khi nhận được câu trả lời mình muốn
Vì mọi thứ đã trở thành cặn rác SEO spam không đáng tin và dễ gây hiểu lầm
Chỉ nghĩ đến việc AI Overview xuất hiện sẽ làm chuyện này tệ hơn đến mức nào cũng đủ rợn người
Tôi tự hỏi có phải chúng ta đang bước vào thời đại tìm “máy in hoạt động như thế nào” thì được bảo rằng nó được tạo bằng hệ thống ròng rọc và dây thừng, rồi mọi người tin sái cổ hay không
Quy mô sai sót mà tôi thấy qua hàng chục lần tìm kiếm trong các lĩnh vực tôi quan tâm đúng là cỡ đó, và hẳn ai cũng đã thấy các ảnh chụp màn hình câu trả lời còn vô lý hơn nhiều hoặc nguy hiểm ra mặt
“Phản hồi của AI có thể chứa lỗi” là câu quan trọng nhất mà tôi muốn hét lên trong toàn bộ cuộc tranh luận về AI
Cùng với tác động lên năng lượng và khí hậu, đây cũng nên là vấn đề trung tâm trong các thảo luận về đạo đức AI hoặc an toàn AI
Nếu cơn sốt này tiếp tục không được kiểm soát, hai điều này sẽ gây hại lớn nhất cho chúng ta
Nhưng mọi người không nhận ra điều đó và đối xử với nó như một lời sấm toàn năng
Rốt cuộc nó là mô hình thống kê, nên xác suất một con khỉ tạo ra tác phẩm của Shakespeare cũng không phải bằng 0
Vì vậy Google đã định hướng tìm kiếm sai về căn bản. Có vẻ họ không còn quan tâm đến độ chính xác của kết quả nữa, mà chủ yếu chỉ quan tâm đến việc cung cấp câu trả lời nhanh và một cụm liên kết tài trợ bên dưới
Tôi đã thấy cả ảnh chụp màn hình những nội dung có thể khiến người ta chết hoặc vướng rắc rối pháp lý
Giờ dường như nó đã tiến hóa thành “tạo ảo giác còn hơn là đưa ra câu trả lời phủ định”
AI giống như một người có thể nói điều gì đó về bất kỳ chủ đề nào với sự tự tin khủng khiếp. Vì vậy tôi thật sự không rõ tại sao phải tin nó hơn một cuộc tán gẫu ở quán rượu
AI không có tín hiệu nào thể hiện sự thiếu tự tin, và vì kinh nghiệm rằng các thuật toán truyền thống luôn đưa ra câu trả lời đúng, mọi người đặt niềm tin cao vào đầu ra của máy
Tỷ lệ người nhìn nhận một cách phê phán chắc sẽ rất nhỏ
Theo nhiều nghĩa thì cũng cần can đảm thật. Vì còn có nguy cơ bị John Ratzenberger kiện nữa
Vài ngày trước tôi gặp một chuyện với ChatGPT và mã Python
Tôi muốn chỉnh lớp logger của Gunicorn để lọc ra một số đường dẫn URL nhất định
Vì đây là đường dẫn mã nóng chạy với mọi request, tôi nói rằng mình đã tạo 3 giải pháp và muốn xem cách nào nhanh nhất
Tôi so sánh danh sách+vòng lặp dùng
startswith, biểu thức chính quy đã biên dịch, vàstartswithvới một tuple các đường dẫnChatGPT tạo cho tôi mã benchmark và kết quả, rồi nói rằng giải pháp regex là tốt nhất và nhanh nhất trong thư viện chuẩn Python
Tôi không tin nên tự chạy benchmark, và phiên bản tuple nhanh hơn regex hơn 5 lần
Khi tôi nói kết quả khác, nó trả lời gần như kiểu “À đúng rồi, cảm ơn đã sửa. Phiên bản tuple thực ra là nhanh nhất!”
Nó giúp tôi tiết kiệm vài phút viết mã benchmark, nhưng với những nội dung mà tôi không chắc chắn 100%, tôi hầu như không tin đầu ra của nó