Chúng tôi đã tự động hóa 'Bullshit'

Thảo luận liên quan đến AI

• Các cuộc thảo luận về AI bắt đầu từ câu hỏi về tầm quan trọng của AI ở châu Phi.
• Gần đây, khi Tổng thống Mỹ và Thủ tướng Anh đưa ra sắc lệnh hành pháp và tổ chức hội nghị thượng đỉnh về AI, sự quan tâm đến tương lai của AI đã gia tăng.
• Một vấn đề được đặt ra là AI thực chất tạo ra 'bullshit' dựa trên văn bản dự đoán, chứ không dựa trên logic hay sự thật.

Nguyên lý hoạt động của AI

• Rodney Brooks, giáo sư AI tại MIT, tóm tắt rằng ChatGPT là thứ "tạo ra những điều dễ nghe".
• "Điều dễ nghe" ám chỉ thuật toán mô phỏng văn bản tìm thấy trên internet, còn "tạo ra" có nghĩa là tính ngẫu nhiên cơ bản dựa trên văn bản dự đoán.
• Các nhà nghiên cứu AI hàng đầu khác cũng đưa ra quan điểm tương tự, và điều này được giải thích với chi tiết kỹ thuật hơn trong các bài như luận văn 'stochastic parrots'.

AI và sự thật

• Geoffrey Hinton, được xem là 'bố già' của AI, cảnh báo về nguy cơ chatbot tạo ra văn bản có sức thuyết phục mạnh hơn là thực sự thông minh.
• Trong một thế giới nơi bằng chứng và logic không được tôn trọng, có lo ngại rằng các hệ thống vận hành không cần bằng chứng hay logic có thể trở thành kẻ thống trị nhờ sức thuyết phục.
• Trong tác phẩm 'On Bullshit' của triết gia Harry Frankfurt, 'bullshit' được mô tả là thứ không bác bỏ thẩm quyền của sự thật mà phớt lờ nó.

AI và tác động xã hội

• Vì sao Thủ tướng Anh lại ấn tượng với AI và một 'bullshit generator' tự động?
• Phân tích 'Bullshit Jobs' của David Graeber cho thấy bản chất thực sự của AI.
• Hơn 30% người lao động ở Anh tin rằng công việc của họ không mang lại bất kỳ giá trị nào cho xã hội.
• Một phần của giáo dục đại học chuẩn bị cho người trẻ thích nghi với các quy trình quan liêu mà không kỳ vọng nhiều vào cuộc sống.

Huấn luyện các hệ thống AI

• Các hệ thống AI được huấn luyện bằng những kho lưu trữ 'bullshit' khổng lồ từ Twitter, Facebook, Reddit cùng với văn bản chứa sự thật thực tế.
• ChatGPT không có thuật toán nào để xác minh phần nào là sự thật, vì vậy đầu ra của nó được định nghĩa là 'bullshit'.
• Twitter khuyến khích các chính trị gia không quan tâm đến việc điều họ nói có đúng sự thật hay không, và kho lưu trữ phát ngôn của họ có thể được dùng để huấn luyện các 'bullshit generator' tự động.

Ý kiến của GN⁺

• Điều quan trọng nhất trong bài viết này là nội dung do AI tạo ra không dựa trên sự thật và logic, mà có thể tạo ra 'bullshit' đủ sức thuyết phục con người.
• Điều này có thể ảnh hưởng đến chất lượng của đối thoại xã hội và thông tin, và khi công nghệ AI phát triển, vấn đề này sẽ càng trở nên quan trọng hơn.
• Lý do khiến chủ đề này hấp dẫn là vì nó giúp mọi người hiểu tác động tiềm tàng của AI lên đời sống hằng ngày và thị trường việc làm, cũng như chuẩn bị cho những thay đổi mà công nghệ sẽ mang lại.

[GN⁺]

Ý kiến trên Hacker News

• Tóm tắt bình luận thứ nhất:

  • LLM (mô hình ngôn ngữ lớn) hoạt động dựa trên tiêu chí "trông có vẻ như đáp án đúng", và nếu không phải chuyên gia thì rất khó đánh giá liệu câu trả lời của LLM có chính xác hay không.
  • LLM là công cụ hữu ích cho chuyên gia; trong lĩnh vực của mình, họ có thể đánh giá độ chính xác của các đoạn mã mà LLM cung cấp.

• Tóm tắt bình luận thứ hai:

  • ChatGPT được huấn luyện bằng dữ liệu từ nhiều nguồn khác nhau nên tạo ra câu trả lời mà không phân biệt giữa sự thật chính xác và thông tin không chắc chắn.
  • Con người cũng học theo cách tương tự, vì vậy không nên hoàn toàn tin tưởng đầu ra của LLM.

• Tóm tắt bình luận thứ ba:

  • Câu trả lời mà LLM đưa ra tương tự với cách tạo token tiếp theo có thể dự đoán được trong hội thoại của con người.
  • Dù vẫn đang ở giai đoạn đầu, LLM đã cho thấy năng lực đáng kể trong việc giải quyết vấn đề thông qua đối thoại.

• Tóm tắt bình luận thứ tư:

  • LLM mô phỏng ngôn ngữ của con người và qua đó mô phỏng năng lực suy luận được mã hóa trong cấu trúc ngôn ngữ.
  • LLM thiếu khả năng ghi nhớ chính xác, nhưng có thể bù đắp điều này nếu đưa thông tin vào bằng prompt phù hợp.

• Tóm tắt bình luận thứ năm:

  • LLM sử dụng cách tiếp cận giải quyết vấn đề thông qua đối thoại và mang lại đổi mới cho quy trình làm việc.

• Tóm tắt bình luận thứ sáu:

  • LLM là công nghệ chuyên biệt cho năng lực ngôn ngữ; nếu không được tích hợp với một hệ thống suy luận tổng thể hoặc cơ sở dữ liệu sự thật, nó có thể gây ra vấn đề.

• Tóm tắt bình luận thứ bảy:

  • LLM đôi khi có thể đưa ra câu trả lời không chính xác, nhưng tùy vào cách người dùng tận dụng mà nó vẫn có thể nâng cao năng suất.

• Tóm tắt bình luận thứ tám:

  • Bản thân ngôn ngữ có thể được xem như một "bullshit generator" hoạt động độc lập với "sự thật", và LLM khai thác chính đặc tính này của ngôn ngữ.

• Tóm tắt bình luận thứ chín:

  • Trong tiếng Pháp, từ baratineur chỉ người nói những điều người khác muốn nghe bất kể đúng hay sai, và có thể là cách diễn đạt phù hợp hơn cho LLM.

• Tóm tắt bình luận thứ mười:

  • Nếu đoạn mã do LLM tạo ra đáp ứng yêu cầu thì đó không phải là "bullshit", và nó có thể được sử dụng hữu ích trong những ngữ cảnh nhất định.