Thời đại dư thừa nội dung AI: những gì chúng ta đã đánh mất

Khi nội dung do AI tạo ra trở nên quá mức, người tiêu thụ thông tin bắt đầu có cảm giác déjà vu, và xuất hiện các vấn đề như "suy thoái tín hiệu" (các thủ pháp tu từ bị lạm dụng đến mức mất ý nghĩa) và "sụp đổ kiểm chứng" (tạo ra thì dễ nhưng xác minh lại khó). Điều này làm suy yếu năng lực phán đoán thông tin.

• Vấn đề suy thoái tín hiệu:

  • Các công cụ tu từ như ẩn dụ, chữ đậm, Em-dash bị dùng tràn lan theo các mẫu học của AI, khiến ý nghĩa nhấn mạnh ban đầu bị mất đi.
  • Ví dụ: những từ như "delve" hay "crucial" bị hạ xuống thành tín hiệu của AI, khiến mọi nội dung trông giống hệt nhau.
  • Kết quả: giống như lạm phát làm giá trị sụt giảm, người đọc dần bỏ qua các thủ pháp này.

• Vấn đề sụp đổ kiểm chứng:

  • Việc tạo bản nháp/mã bằng AI đã trở nên dễ dàng, nhưng việc kiểm tra độ chính xác vẫn cần nỗ lực của con người.
  • Việc tạo lại nhiều lần dẫn đến kiểm chứng lười biếng (ví như máy đánh bạc: thay vì kiểm tra thì lại bấm tạo lại).
  • Lỗi của AI rất tinh vi (ví dụ: bịa ra tiêu đề bài báo khoa học, sai thuật ngữ chuyên môn), và khó bắt được các dạng thất bại ở đuôi dài.
  • Các heuristic trước đây (ví dụ: kiểm tra trích dẫn bài báo) không còn tác dụng.

• Tác động của vấn đề:

  • Tăng mức độ dễ bị thao túng: có thể triển khai mã sai, hoặc làm việc dựa trên các nghiên cứu giả.
  • Đánh giá thấp an toàn AI: rủi ro thật sự là sự mất mát năng lực tiêu thụ và kiểm chứng thông tin ở quy mô lớn.
  • Suy thoái gu thẩm mỹ: vòng lặp phản hồi bị đứt gãy nên không hình thành được năng lực phán đoán (ví dụ: giá trị của gợi ý blog/công thức nấu ăn suy giảm).
  • Hàm ý xã hội: việc hợp tác và phán đoán sự thật trở nên khó khăn hơn, theo kiểu "xã hội trở nên ngu đi".

• Hướng giải quyết:

  • Dạy 'lý do' đằng sau kỹ thuật: thay vì lập trình AI dựa trên heuristic (như bullet point), hãy tập trung vào lý do (chẳng hạn có tính song song hay không) (ví dụ: xem xét mối quan hệ giữa các ý tưởng).
  • Niềm tin dựa trên trải nghiệm con người: thay vì để AI tự khẳng định trải nghiệm, hãy để nó truy vấn các ghi chép có cấu trúc từ con người (ví dụ: "có nhiều báo cáo cho thấy món ăn bỏ bacon vẫn làm người ăn hài lòng"). Đề xuất một "không gian căn cứ giả thuyết".

• Câu hỏi còn lại: Làm thế nào để bảo toàn vòng lặp phản hồi của con người trong thời đại AI dư thừa?