Google chọn câu trả lời (sai) của ChatGPT trên Quora làm đáp án đúng

 (twitter.com/8teapi)
3 điểm bởi GN⁺ 2023-09-27 | 2 bình luận | Chia sẻ qua WhatsApp
  • Khi tìm trên Google, các câu hỏi và câu trả lời trên Quora thường xuyên xuất hiện
  • Quora đang hiển thị các câu trả lời được tạo bằng ChatGPT
  • Google đã chọn một nội dung bịa đặt do ChatGPT tạo ra trên Quora làm đáp án đúng có xác suất cao nhất
  • Giờ đây, nội dung bịa đặt của ChatGPT đã trở thành câu trả lời chính thức của Google
  • Câu hỏi ví dụ đã dùng và câu trả lời sai của ChatGPT cho câu hỏi đó
    • Q: "Có thể làm tan chảy trứng không? (Can you melt Eggs)"
    • A: "Có, có thể. Cách phổ biến nhất để làm tan chảy trứng là đun nóng chúng bằng bếp hoặc lò vi sóng."
  • "Vicious Self-Degradation (tự suy thoái ác ý)"

Bài viết liên quan

2 bình luận

 
vmflvm0 2023-09-29

Cho tôi số vé số.
 
GN⁺ 2023-09-27
Ý kiến trên Hacker News
  • Tính năng "câu trả lời" của Google bị chỉ trích là kém đáng tin cậy, với một ví dụ là thông tin sai về dung lượng đĩa mềm Amiga.
  • Quora bị nghi ngờ dùng nội dung do AI tạo ra để đạt thứ hạng cao trên Google và kéo lượt nhấp.
  • Nhiều người ngạc nhiên vì Google dường như không bận tâm đến việc này, bất chấp chính sách của họ chống thao túng thứ hạng kết quả tìm kiếm bằng tự động hóa.
  • Có lo ngại về sự lan truyền của thông tin sai lệch trong một thế giới "hậu sự thật", và AI có thể làm vấn đề này trầm trọng hơn.
  • Có sự khó hiểu về lý do Quora tự động tạo câu trả lời cho những câu hỏi vốn đã có câu trả lời do con người viết.
  • Người ta dự đoán Internet sẽ ngày càng đầy rẫy thư rác và tuyên truyền ác ý, khiến việc tìm kiếm thông tin đáng tin cậy trở thành một nhiệm vụ gần như siêu phàm.
  • Có quan sát rằng các chủ đề trên Reddit đầy các tài khoản bot, cho thấy sự gia tăng của nội dung tự động.
  • Có thắc mắc về cách Quora thiết lập tích hợp "ChatGPT", cùng đề xuất rằng họ có thể đang dùng GPT3.5 hoặc GPT4 qua API.
  • Có ý kiến cho rằng các nền tảng như Quora và StackOverflow có thể đang đánh giá quá cao những người đi tìm câu trả lời và đánh giá quá thấp cộng đồng những người thường xuyên trả lời.
  • Các công cụ tìm kiếm khác như Kagi và DDG cũng bị chỉ trích vì cùng liên kết đến một chủ đề Quora đó.
  • Một giải pháp tiềm năng được đề xuất là gắn nhãn nội dung AI bằng HTML wrapper hoặc thuộc tính để các công cụ tìm kiếm lập chỉ mục theo cách khác.
  • Tình huống này được gọi là "enshitification", hàm ý rằng chất lượng thông tin sẵn có trên mạng đang suy giảm.