Báo Pakistan vô tình in cả prompt AI cùng với bài viết

• Một tờ báo ở Pakistan đã in nguyên cả câu lệnh prompt dùng để tạo bài bằng AI cùng với nội dung bài viết
• Câu in ra là chỉ dẫn yêu cầu AI viết bài, dường như đã không được xóa trong quá trình biên tập
• Sai sót này được chú ý như một ví dụ cho thấy công cụ AI đã được đưa vào môi trường biên tập
• Bài đăng trên Twitter có ảnh chụp trang báo, trong đó phần prompt hiện rõ cùng bài viết
• Vụ việc được xem là một trường hợp cho thấy ranh giới giữa việc dùng AI và kiểm soát chất lượng biên tập

---

Tổng quan sự việc

• Người dùng Twitter Omar Quraishi đã đăng ảnh chụp một trang báo ở Pakistan
• Trong ảnh, phía trên phần nội dung bài có một câu prompt chỉ dẫn AI viết bài được in nguyên vẹn
• Câu này được xác nhận không phải nội dung bài báo thông thường mà là mệnh lệnh nhập vào công cụ biên tập AI

Phản ứng trên mạng

• Bài đăng trên Twitter thu hút chú ý như một hệ quả của việc dùng AI một cách bất cẩn
• Một số người dùng nhắc đến đây như bằng chứng cho thấy các tòa soạn đang sử dụng AI để viết bài
• Ngoài bài đăng gốc, không có thêm giải thích hay lập trường chính thức từ phía tờ báo

Ý nghĩa

• Trường hợp này vừa cho thấy thực tế các công cụ AI đang được tích hợp vào quy trình sản xuất tin tức, vừa nhấn mạnh tầm quan trọng của khâu biên tập và kiểm duyệt
• Đây được ghi nhận là một trong những trường hợp in ấn đầu tiên để lộ nguyên prompt AI
• Ngoài dòng tweet gốc, không có thêm thông tin hay bài viết theo dõi nào

[realg]

Chẳng phải ở Hàn Quốc chuyện này đã là bình thường từ lâu rồi sao?

[GN⁺]

Ý kiến Hacker News

• Tiêu đề hiện tại của bài viết, “Pakistani newspaper mistakenly prints AI prompt with the article”, không chính xác
  Thứ thực sự được in ra không phải là prompt mà là câu chữ thừa (fluff) do chatbot tạo ra
  Bài báo gây ra sự việc có tiêu đề “Auto sales rev up in October”, là một bài rất khô khan, chủ yếu xoay quanh thống kê
  Đây là kiểu nội dung mà LLM thường hay mắc lỗi, và có lẽ thể hiện bằng bảng hoặc biểu đồ sẽ tốt hơn nhiều
  Nói thật thì kiểu việc như “nhận dữ liệu bảng, rút ra insight thống kê rồi viết thành câu” là lao động đơn điệu mà con người không muốn làm
  • Tờ báo này là nhật báo tiếng Anh tiêu biểu của Pakistan, độc giả đều là những người có học vấn đại học, nhưng trong các bài tài chính lại hầu như không đưa vào biểu đồ hay bảng
    Tôi từng thấy một bài bình luận viết rằng “hãy lấy dữ liệu từ website chính phủ sang Excel rồi vẽ biểu đồ”, nhưng không hiểu sao họ không đưa luôn biểu đồ đó vào bài báo
  • Thực ra AI đã đề nghị với con người rằng “Tôi có thể làm một phiên bản tốt hơn không?”, nên có lẽ tiêu đề cũng không hoàn toàn sai
  • Cả bài tài chính lẫn thể thao từ lâu đã được viết theo văn phong rập khuôn, nên vụ này có vẻ chỉ là phần tiếp nối của xu hướng đó
  • Việc phóng viên cuối cùng bỏ luôn kiểu “infographic tóm tắt một dòng” và dùng nguyên bản nháp cho thấy có lẽ họ không cảm thấy cần tạo tác động với độc giả
  • Những câu thừa kiểu chatbot này cũng thỉnh thoảng xuất hiện trong email công ty
    Thường là trong những email thông báo không quan trọng
• Khi được hỏi “chuyện này đã xảy ra như thế nào”, phóng viên được cho là đã trả lời: “Câu hỏi rất hay. Bạn đã chạm đúng vào trọng tâm của vấn đề này. Hãy cùng xem vì sao câu hỏi đó hiệu quả…”
  • Sau đó còn có những phản ứng đùa rằng “bình luận sắc bén đấy, cùng phân tích xem vì sao”
  • Từ giờ có lẽ tôi sẽ để ý xem những bài có dấu hỏi trong tiêu đề có mở đầu bằng “Câu hỏi hay đấy!” hay không
  • Câu kiểu “không bắt đầu bằng 5W mà đi thẳng vào câu hỏi quan trọng nhất” là ví dụ điển hình của mẫu ‘không phải A mà là B’
  • Một số người còn cười rằng phóng viên đã quá tay gấp đôi trong cách phản ứng
• Ở Spiegel của Đức cũng từng có chuyện tương tự
  Có thể xác nhận điều này qua phần đính chính ở cuối bài
  Liên kết bài viết liên quan
  • Trong các bài báo học thuật cũng có trường hợp tương tự
    Có cả bài đăng trên Fediscience, DOI gốc và thông báo rút bài được đăng cùng nhau
  • Dù vậy, tôi nghĩ việc họ thừa nhận sai sót và không che giấu nó là một thái độ công bằng
  • Cũng có phản ứng tự giễu rằng “biên tập viên thậm chí còn không đọc bài mà bấm luôn nút PUBLISH”
• Bản online sau đó đã được chỉnh sửa
  Một thông báo của ban biên tập được thêm vào, nói rằng “việc sử dụng AI trong quá trình biên tập là vi phạm chính sách của Dawn, câu liên quan đã bị xóa và vụ việc đang được điều tra”
  Liên kết bài viết
  Văn bản của bản in được đăng trên Pastebin
  • Có người chỉ ra rằng câu “AI policy violation is regretted” là một ví dụ tệ về câu bị động
  • Một số người khác thì tiếc nuối về những thứ công nghệ đã lấy mất, cho rằng việc biên tập giờ trở nên tùy tiện như trong thế giới của 1984
• Có ý kiến đặt câu hỏi: “Nếu mọi thứ đều được tạo sinh, vậy tại sao còn phải đọc nữa?”
  Đây là góc nhìn hoài nghi rằng thà hỏi trực tiếp LLM còn hơn
  • Tôi nghĩ thời đại LLM là dịp để lộ rõ điều gì mới thực sự có giá trị
  • Cuối cùng thì xu hướng hiện tại cũng đang đi theo hướng đó
  • Nếu LLM tạo ra nội dung mà không có dữ liệu nào, sẽ xuất hiện chất lượng cẩu thả (sloppy output)
    Nhưng nếu cung cấp cả tài liệu lẫn góc nhìn thì kết quả sẽ tốt hơn rất nhiều
    Việc vơ đũa cả nắm mọi đầu ra của LLM là “rác” không phản ánh đúng thực tế
• Có vẻ sắp tới cả thế giới sẽ nói tiếng Anh Mỹ hoàn hảo, nhưng có lẽ chỉ là trên giấy tờ
  • Chỉ cần thêm cách diễn đạt và chính tả theo vùng vào prompt là có thể điều chỉnh dễ dàng
  • Tôi đã dặn Gemini tuyệt đối không dùng chính tả kiểu Mỹ và phát âm chữ Z theo kiểu Anh
    Tôi không định từ bỏ bản sắc ngôn ngữ của mình
• Thực ra việc biến dữ liệu thành câu chữ là công việc nhàm chán
  Nhưng với tư cách độc giả, đọc một bài mà “không ai thực sự tự tay viết ra” lại cho cảm giác kỳ quặc
  Dạo này có rất nhiều vòng lặp lãng phí năng lượng: một bên dùng AI để viết email dài, bên kia lại dùng AI để tóm tắt thành một dòng
  • Tôi thà đọc chỉ những sự thật, không rườm rà còn hơn
• Những tài liệu và đặc tả mà các bên liên quan đưa cho tôi dạo này cũng trông như do AI viết
  Chúng bỗng trở nên dài và chi tiết hơn, nhưng chính người viết lại không nhớ nội dung
  Ngân hàng nơi bạn gái tôi làm việc cũng có cảm giác một nửa giao tiếp là do AI viết
  Năng suất thậm chí còn đang giảm đi
  Tôi cũng dùng AI khi lập trình, nhưng chỉ như một công cụ hỗ trợ xoay quanh câu hỏi và thử nghiệm
  Tuy nhiên, xu hướng ủy quyền (delegate) ngày càng nhiều việc hơn cho AI khiến tôi lo ngại
• Càng nhiều người quen với AI thì họ càng lười hơn, và những lỗi như thế này sẽ càng trở nên phổ biến
  Giải pháp là thêm một người nữa để rà soát kết quả đầu ra
  Như vậy biết đâu AI lại tạo ra việc làm mới
  • Nhưng tôi nghĩ tốt hơn là đưa người kiểm tra vào giai đoạn đầu, chứ không phải bước cuối
    Cần viết prompt tốt để LLM không tạo ra những câu không cần thiết
    Hoặc phải phát triển tooling chuyên biệt theo lĩnh vực
    Nói đùa thôi, nhưng tôi cũng đang nghĩ đến chuyện mở dịch vụ “tư vấn AI” kiểu này
  • Hoặc lại thêm một lớp tự động hóa AI khác, kiểu prompt “hãy tìm và xóa những dấu vết LLM còn sót lại trong bài này”
    Rồi sẽ có người đưa việc đó vào CV như kinh nghiệm Prompt Engineer
  • Tôi nghĩ ai không biết niềm vui của việc viết thì không có tư cách làm nhà báo
  • Rốt cuộc chúng ta sẽ bước vào thời đại sản xuất thừa nội dung chất lượng thấp
    Giống như khi có máy sao chép thì Trái Đất sẽ bị phủ kín bởi kẹp giấy
  • Trong dòng chảy đó, những nghề lương thấp và bị đánh giá thấp sẽ ngày càng nhiều hơn
• Sự việc lần này là hiện tượng kiểu lỗi “[placeholder here]” mới của thời đại LLM