Gia đình nhập viện vì ngộ độc nấm độc sau khi làm theo một “cuốn sách nhận diện nấm” dùng AI tạo sinh

• Cả gia đình đã phải nhập viện sau khi vô tình ăn phải nấm độc vào tuần trước
• Người vợ đã mua một cuốn sách từ một nhà bán lẻ trực tuyến lớn để làm quà sinh nhật, với tiêu đề tương tự "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"
• Cuốn sách có kèm hình ảnh các loại nấm để hỗ trợ nhận diện từng loại
• Không may là cuốn sách này không chính xác. Sau khi kiểm tra kỹ hơn, họ phát hiện hình ảnh nấm là do AI tạo ra, và tìm thấy hai ví dụ trong đó phần văn bản kết thúc mỗi câu bằng một "câu hỏi ngẫu nhiên" hoặc một "câu phá vỡ bức tường thứ tư"
• Ví dụ:
  • "Tóm lại, nấm morel là một loại nấm ngon có thể ăn được từ tháng 8 đến cuối mùa hè. Nếu tôi có thể giúp gì thêm, hãy cho tôi biết."
• Nhà bán lẻ trực tuyến trả lời rằng họ sẽ hoàn tiền nếu cuốn sách được trả lại
• Cuốn sách này đã bị gỡ khỏi nhà bán lẻ trực tuyến, nhưng có vẻ vẫn còn hàng chục cuốn khác với phong cách tương tự
• Nói rõ để tránh hiểu lầm: "Khi mua tôi không biết đây là nội dung do AI tạo ra! Điều đó không được công khai trên website!"

[GN⁺]

Ý kiến Hacker News

• Nhấn mạnh sự cần thiết của quy định đối với xuất bản bằng AI

  • Chỉ ra rằng "University of East Ontario" không tồn tại và xem đây là hành vi cẩu thả ở mức độ phạm pháp

• Cho rằng AI tạo sinh không hoạt động trong những tình huống đòi hỏi kết quả ngoài đời thực

  • AI hiện tại chỉ là chức năng tự động hoàn thành đơn thuần và không hiểu ngữ cảnh mà nó được dùng
  • Có thể chấp nhận được với ảnh stock hoặc nội dung trên trang sản phẩm, nhưng trong các tình huống quan trọng thì cực kỳ nguy hiểm

• Đặt câu hỏi về độ tin cậy của thread "LegalAdvice" trên Reddit

  • Chỉ ra rằng hiện tại không phải mùa nấm morel ở Anh

• Chia sẻ một bài viết đáng tin cậy hơn

  • Chỉ ra độ chính xác thấp của việc nhận diện nấm bằng AI
  • Apple, Google, OpenAI và Microsoft không đưa ra bình luận về việc này

• Nhắc đến các trường hợp influencer trên TikTok và Facebook chia sẻ thông tin sai về thực vật

  • Nhiều trường hợp quảng bá sai các loại cây nguy hiểm như đồ ăn hoặc sản phẩm skincare

• Cho rằng phần lớn các bài đăng "advice" trên Reddit là bài bịa đặt

  • Sẽ tạm hoãn phẫn nộ cho đến khi có bằng chứng thực tế xuất hiện

• Chỉ ra giới hạn của AI tạo sinh và vấn đề trách nhiệm đi kèm

  • Các công ty AI nên thêm điều khoản miễn trừ trách nhiệm và câu cảnh báo
  • Cần nêu rõ rằng nội dung do LLM tạo ra có thể sai

• Bày tỏ sự nghi ngờ về email từ nhà bán lẻ trực tuyến

  • Việc cấm chụp ảnh sản phẩm và yêu cầu trả lại ngay lập tức là đáng ngờ
  • Cho rằng câu chuyện này là giả vì có cả lời đe dọa khóa tài khoản

• Đề cập rằng ngay cả National Audubon Society Field Guide cũng có thể gây nguy cơ ngộ độc nếu dùng sai

  • Đây không chỉ là vấn đề của AI

• Bật cười khi dự đoán sẽ có các lời phàn nàn tiếp theo về tư vấn pháp lý do AI tạo ra