Chúng ta đã tự động hóa “Bullshit”
(cst.cam.ac.uk)- AI tạo sinh như ChatGPT hoạt động bằng cách dự đoán và bắt chước văn bản trên Internet sao cho có vẻ hợp lý, thay vì kiểm chứng logic hay sự thật, nên bị phê phán là tự động hóa Bullshit
- Tóm tắt của Rodney Brooks rằng nó “bịa ra những thứ nghe có vẻ hợp lý” tương đồng với bài báo stochastic parrots của Emily Bender, Timnit Gebru và phân tích của Murray Shanahan về các mô hình ngôn ngữ lớn
- Theo định nghĩa của Harry Frankfurt, Bullshit không phải là lời nói phản bác sự thật như nói dối, mà là lời nói không quan tâm đến sự thật, điều này liên hệ với đầu ra của ChatGPT
- Geoff Hinton cho rằng rủi ro của chatbot không nằm ở siêu trí tuệ mà ở khả năng tạo hàng loạt văn bản có sức thuyết phục dù không có trí tuệ, và lo ngại việc tự động hóa thuyết phục chính trị
- Thứ AI dễ thay thế có thể không phải là lao động có giá trị, mà là các Bullshit Jobs như báo cáo vô nghĩa, chuyển tiếp thông tin, xử lý khiếu nại; vì vậy trọng tâm quản lý cũng nên nhắm vào việc sản xuất và lan truyền Bullshit hơn là bản thân AI
Vì sao ChatGPT trông giống một cỗ máy tạo Bullshit
- ChatGPT dựa trên thuật toán bắt chước các mẫu văn bản tìm thấy trên Internet, thay vì kiểm chứng logic hay sự thật
- Rodney Brooks tóm tắt ChatGPT là một hệ thống “chỉ bịa ra những thứ nghe có vẻ hợp lý”
- “Có vẻ hợp lý” liên quan đến thuật toán bắt chước văn bản Internet
- “Bịa ra” chỉ việc nó dựa vào tính ngẫu nhiên của văn bản dự đoán hơn là logic hay sự thật
- Bài báo stochastic parrots của Emily Bender, Timnit Gebru và các đồng sự, cùng thảo luận của Murray Shanahan về mô hình ngôn ngữ lớn, cũng xử lý cùng nguyên lý dự đoán văn bản này theo cách kỹ thuật hơn
Định nghĩa của Frankfurt: lời nói thờ ơ với sự thật
- Trong On Bullshit của Harry Frankfurt, người nói Bullshit không phủ nhận thẩm quyền của sự thật như kẻ nói dối, nhưng hoàn toàn không chú ý đến sự thật
- Định nghĩa này tương đồng với phân tích của Brooks, Bender, Shanahan và Hinton về cách ChatGPT vận hành
- Frankfurt xem Bullshit là kẻ thù lớn hơn của sự thật so với lời nói dối
- Nói dối ít nhất còn giả định một mối quan hệ với sự thật
- Bullshit khó tránh khỏi khi một người phải nói dù không biết mình đang nói gì
Rủi ro chính trị do văn bản có sức thuyết phục tạo ra
- Geoff Hinton cho rằng rủi ro chính của chatbot nằm ở khả năng tạo ra văn bản rất thuyết phục dù không có trí tuệ, hơn là ở bản thân siêu trí tuệ
- Mối lo này liên quan đến kiểu thuyết phục chính trị của những người như Donald Trump và Boris Johnson
- Trong một thế giới nơi bằng chứng và logic không được tôn trọng trong tranh luận công khai, một hệ thống hoạt động không cần bằng chứng hay logic có thể bắt chước và thay thế các lãnh đạo chính trị tồi bằng văn bản có sức thuyết phục siêu phàm
Bullshit Jobs và tự động hóa bằng AI
- Bullshit Jobs của David Graeber liên hệ với tương lai AI “không ai cần phải làm việc” mà Elon Musk nói với Thủ tướng Anh
- Graeber phân tích rằng hơn 30% người lao động Anh tin công việc của họ không đóng góp giá trị nào cho xã hội
- Những việc như vậy bao gồm viết báo cáo vô nghĩa, chuyển tiếp thông điệp giữa người với người, lắng nghe những phàn nàn không thể giải quyết
- Mọi phần của các công việc này đều có thể được ChatGPT thực hiện dễ dàng
- Một phần của giáo dục đại học có thể huấn luyện người trẻ phục tùng các thủ tục quan liêu và khiến họ viết những văn bản dài hầu như không ai đọc
- Trong nền giáo dục tạo ra những nhân vật như Boris Johnson, sự lưu loát ngôn từ và các lập luận thú vị có thể được thưởng cao hơn sự chú ý tỉ mỉ đến sự thật
Dữ liệu huấn luyện và trọng tâm quản lý
- Các hệ thống AI như ChatGPT được huấn luyện trên những kho lưu trữ Bullshit khổng lồ như Twitter, Facebook, Reddit, cùng với dữ liệu có pha trộn sự thật thực tế như Wikipedia và bài viết của các tác giả chuyên nghiệp
- Bên trong ChatGPT không có thuật toán nào kiểm tra phần nào là đúng
- Giống như Twitter khuyến khích Bullshit của các chính trị gia không quan tâm thật giả, những dấu vết họ để lại có thể được dùng để huấn luyện các cỗ máy tạo Bullshit tự động
- Đối tượng cần quản lý không phải là bản thân AI mà là Bullshit
- Để phân biệt công việc có giá trị với công việc có thể sẵn sàng loại bỏ, điều cần thiết không phải là một hội nghị thượng đỉnh về AI mà là một hội nghị bàn về Bullshit
Đọc thêm
- Designing Alternatives to AI dự kiến được MIT Press xuất bản năm 2024 và có bản xem trước miễn phí trực tuyến
- Talking About Large Language Models của Murray Shanahan có thể xem tại arXiv:2212.03551
- Bài viết liên quan đến Rodney Brooks được đăng trên IEEE Spectrum với tiêu đề “Just Calm Down About GPT-4 Already”
1 bình luận
Ý kiến trên Hacker News
Tôi nghĩ bài viết này đúng ở nhiều khía cạnh. LLM dường như vận hành theo nguyên lý “liệu cái này có được chấp nhận như câu trả lời đúng không”, chứ không phải kiểu “vì nó hoạt động như thế này nên câu trả lời hợp lý cho câu hỏi là thế này”
Tuy vậy, cũng phải thừa nhận rằng đến một lúc nào đó LLM thực sự tạo ra câu trả lời tốt. Chẳng hạn khi yêu cầu một đoạn mã và nó trả lời đúng, câu trả lời vượt qua bài kiểm tra cảm quan có thể tình cờ là câu trả lời tốt, nhưng dù sao đó vẫn là câu trả lời tốt
Điểm cốt lõi là để biết LLM có trả lời đúng hay không, tôi phải vốn đã biết mình đang làm gì. Nếu tôi, không phải nhà sử học, nhờ cGPT viết một bài luận về nguyên nhân Thế chiến I, nghe có vẻ hợp lý, nhưng tôi không biết nó có đề cập đến những nội dung mà một nhà sử học thực thụ sẽ coi là quan trọng hay không. Nó chỉ đưa ra một câu trả lời bình thường mà một người phổ thông đã đọc qua đôi chút có thể xem là đúng
Phần lớn chúng ta chỉ là chuyên gia trong một lĩnh vực, nên không có cách nào ngăn LLM đánh lừa tôi ở mọi lĩnh vực mà tôi không biết. Vì vậy cần cẩn trọng khi dùng nó ngoài chuyên môn của mình
Tôi xem LLM ở giai đoạn hiện tại là công cụ đi đường tắt cho chuyên gia. Tôi có thể biết một đoạn mã trong lĩnh vực mình phụ trách là đúng hay sai, nhưng người không làm trong lĩnh vực đó có thể bị đánh lừa
LLM rất xuất sắc trong việc tạo ra thứ trông giống ngôn ngữ nhất quán. Kiểu như các từ loại xuất hiện ở vị trí được kỳ vọng trong câu. Vấn đề là mô hình hóa ngôn ngữ và mô hình hóa tri thức rất gắn bó với nhau, nên mọi người nhầm phần mô hình hóa tri thức tình cờ xuất hiện theo đó là một điều gì sâu sắc hơn
Nhưng theo quy ước, giá trị của thuật toán sắp xếp 50% không phải là 50% của một thuật toán sắp xếp hoạt động đúng, mà là 0. Vì sắp xếp thường là một phần của hệ thống lớn hơn, và hệ thống đó cần việc sắp xếp hoạt động 100%
Trong một thời gian dài, có những lĩnh vực trong “machine learning” mà đúng 80% đã được xem là thành công. Điểm thú vị của LLM là trong một số bài toán machine learning, nó nâng chuẩn lên 90%, nhưng với những việc khác vốn có thể xử lý 100% bằng thuật toán, nó lại kéo chuẩn xuống
Trước đây tôi từng đọc phần tóm tắt của một nghiên cứu so sánh hiệu suất giữa những người có thể dùng phần mềm cờ vua và những người không thể. Yếu tố dự đoán thành công mạnh nhất không phải là năng lực chơi cờ thuần túy, mà là khả năng tận dụng phần mềm một cách hiệu quả
Một lĩnh vực khác mà tôi không rõ có nghiên cứu công khai hay không nhưng có nhiều bằng chứng giai thoại là giao dịch thuật toán. Các công ty thành công hầu như luôn có con người giám sát hoạt động của thuật toán. Khi thuật toán hành xử kỳ lạ hoặc điều kiện không còn phù hợp, con người có thể nhận ra và điều chỉnh tham số, hoặc nếu có vẻ nó hoàn toàn mất kiểm soát thì tắt nó đi. Thành thật mà nói, phần lớn sự giám sát kiểu này có lẽ là hệ quả của vụ Knight Capital
Ý chính là tôi đồng ý rằng LLM hiện là công cụ dành cho người có kinh nghiệm trong lĩnh vực tương ứng, nhưng đó vẫn là một bước tiến khá lớn. Giống như các quỹ đầu cơ định lượng hàng đầu liên tục vượt trội so với quỹ do con người vận hành, những người thông minh biết tận dụng tốt công cụ này sẽ vươn lên trước. Cốt lõi là học nó giỏi ở đâu, kém ở đâu, và cách xác minh đầu ra
Khi cần tìm kiến thức, tôi tự tìm trực tiếp còn nhanh hơn là trò chuyện với máy tính. Chuyên môn thực sự cũng bao gồm năng lực làm chủ và tinh giản quá trình tìm kiếm đó
Ngược lại, nó gặp khó khăn khi tạo ra thứ chưa từng thấy, hoặc không phải là biến thể gần giống của thứ đã thấy
Nếu điều đó là đúng, tôi tự hỏi tại sao hôm qua tôi chỉ mất 10 giây với ChatGPT 3.5 để tìm một sự thật cực kỳ obscure về lịch sử thế kỷ 18. Tìm bằng Google hơn một giờ vẫn thất bại
Ban đầu ChatGPT đưa ra câu trả lời sai vì câu hỏi của tôi không chính xác, nhưng sau khi tôi làm rõ vài điểm, nó đưa ra một câu trả lời có vẻ đúng; sau 1–2 phút điều tra và kiểm chứng thêm, tôi chắc chắn 100% rằng câu trả lời đó thực sự đúng
Lập luận rằng “các hệ thống AI như ChatGPT học cùng lúc từ những kho lưu trữ nhảm nhí khổng lồ như Twitter, Facebook, Reddit và từ các sự thật thực tế như Wikipedia hay văn bản lấy từ các tác giả chuyên nghiệp, nhưng không có thuật toán nào xác nhận phần nào là đúng. Đầu ra theo nghĩa đen là nhảm nhí” cũng kỳ lạ
Triết gia, nhà toán học, nhà khoa học, tiểu thuyết gia cũng học cùng lúc từ sự thật thực tế và các kho lưu trữ nhảm nhí khổng lồ. Có công trình đã được xác lập của người khác, giáo dục ở trường, thí nghiệm, nhưng cũng có trải nghiệm thường ngày không thể gọi là khoa học, những cuộc tán gẫu giống hội thoại trên Twitter, tuyên truyền và dối trá. Nếu vậy thì đầu ra của họ cũng là nhảm nhí, và xa hơn nữa, mọi thứ nhân loại tạo ra cũng là nhảm nhí
Họ có thể không biết rằng cần điều chỉnh câu hỏi và điều tra thêm. Nếu định dùng GPT trong một hệ thống tự động hóa, hệ thống đó sẽ nhận ra đâu là sai và đâu là đúng bằng cách nào?
Việc ChatGPT và các mô hình tương tự mạnh nhất ở loại việc này, tức là vai trò thay thế Google Search, có vẻ không gây tranh cãi lắm
Đánh giá cuối cùng là liệu tự mình đào thông tin rẻ hơn, hay dùng AI để thu hẹp không gian tìm kiếm rẻ hơn. Nếu giả định có kiểm chứng, tôi cho rằng là vế sau
Ngược lại, trong Wyrd Sisters của Terry Pratchett có câu này. “Những thứ cố trông giống một vật thường trông còn giống vật đó hơn cả chính vật đó. Đó là sự thật ai cũng biết. Nhưng tôi không thích khuyến khích chuyện ấy.”
Vì vậy LLM tốt hơn nhiều so với những lập luận hạ thấp rằng chúng là nhảm nhí hay vẹt ngẫu nhiên, đồng thời vẫn không tốt bằng chuyên gia lĩnh vực
Tôi nghĩ LLM đã cho chúng ta thấy rằng có ít nhất hai cách tư duy
Một cách giống với cách LLM hoạt động, về bản chất là dự đoán token tiếp theo. Hãy nghĩ đến trạng thái tinh thần khi bạn chìm sâu vào một cuộc trò chuyện. Đó không phải là hành vi thật sự có ý thức, và đôi khi chính bạn cũng ngạc nhiên về mình. Nếu là trẻ con hoặc ở trạng thái trẻ con, bạn có thể bịa ra bất cứ điều gì ngay lúc đó mà không nhận ra
Giờ hãy nghĩ đến lúc bạn phải giải một vấn đề thật sự khó thì khác. Đó là hành vi rất có ý thức, bạn chuyển sự chú ý qua lại và suy luận xem mọi thứ ăn khớp với nhau thế nào, thay đổi điều gì thì vấn đề sẽ được giải quyết. Cũng rất có khả năng bạn không dùng ngôn ngữ khi mô hình hóa vấn đề trong đầu
LLM đang làm điều đầu tiên, và ngay cả ở giai đoạn đầu này chúng đã làm rất tốt. Điều đáng kinh ngạc là chỉ với cách đó mà chúng có thể đi xa đến đâu. Khi bước vào chế độ hội thoại dựa trên lượng kiến thức ở mức phi nhân loại, chúng thực sự có thể giải được cả những vấn đề khó ở một mức độ nào đó
Tôi nghĩ điều này cũng khớp với trải nghiệm của chúng ta. Trong những lĩnh vực mình biết sâu, đôi khi bạn thấy mình đang giải quyết vấn đề chỉ bằng việc cấu thành câu
Cấu trúc tri thức mà chúng ta xây dựng là mang tính ký hiệu. Ký hiệu biểu thị sự trừu tượng, tức là lớp, và cũng bao gồm quan hệ giữa các ký hiệu. Sáng tạo của con người nằm ở việc, dựa trên đầu vào tri giác mới, tạo ra ký hiệu mới hoặc quan hệ mới giữa các ký hiệu hiện có; đó là một quá trình suy luận quy nạp giả thuyết. Cấu trúc tri thức như vậy mạnh mẽ vì nó cho phép xây một tòa tháp khổng lồ trên nền móng vững chắc
Nói rằng đôi khi chỉ tạo câu về một chủ đề mình biết sâu mà cũng giải được vấn đề nghĩa là chủ đề đó có sự minh bạch, khiến dòng suy nghĩ được căn chỉnh với cấu trúc tri thức. Nói cách khác, đó là thật sự hiểu. Nhưng theo kinh nghiệm của tôi, rất hiếm người ở lại trong phạm vi năng lực của mình; đa số vẫn sẽ nói thao thao cả về những chủ đề họ không có cấu trúc tri thức. Ngoài ra, sự tự nhận thức về việc mình thực sự có cấu trúc tri thức về điều gì, tức là biết mình không biết gì, cũng hiếm
Dù tốt hay xấu, LLM là một con vịt cao su biết trả lời
Cách diễn giải phổ biến là đa số mọi người chỉ suy nghĩ theo cách thứ nhất
Tôi đã chán kiểu diễn giải này rồi. Đúng là LLM giống vẹt, nhưng là con vẹt bắt chước ngôn ngữ con người, và ngôn ngữ con người dường như mã hóa năng lực suy luận của chúng ta trong cấu trúc của nó. Vì vậy, nếu bắt chước ngôn ngữ đủ tốt thì nó bắt đầu bắt chước cả năng lực suy luận
Có lẽ đã đến lúc mọi người nên vượt qua chuyện LLM không có trí nhớ cực kỳ chính xác. Vấn đề này, nếu không hoàn toàn thì phần lớn, được giải quyết bằng cách đưa chính thông tin bạn muốn hỏi vào prompt, như Bing. ChatGPT làm tóm tắt tốt hơn nhiều so với việc nhớ lại sự kiện chính xác
Và trong hầu hết trường hợp, điều đó không quan trọng. Khi học gì đó hoặc giải quyết vấn đề bằng ChatGPT, nó là điểm khởi đầu chứ không phải kết luận. Nếu mọi người hiểu điều đó thì không có vấn đề gì. Tôi chưa thấy ai coi đầu ra là sự thật 100%, và các công ty AI cũng không tuyên bố như vậy
Những người coi đầu ra là sự thật 100% thực sự tồn tại
https://www.nytimes.com/2023/06/08/nyregion/lawyer-chatgpt-s...
Giống như nếu nhập thứ nhảm nhí vào máy tính thì sẽ ra thứ nhảm nhí. Trong nhiều trường hợp, bạn phải nhập sự thật vào. Những thứ như RAG tự động hóa việc này
Vì vậy có vẻ ChatGPT đang mở rộng sâu sang hướng RAG, vì nó phù hợp hơn với cách người dùng kỳ vọng công cụ này hoạt động
Những người nghĩ thế giới vận hành bằng sự thật sẽ khó hiểu LLM. Cách tìm lời giải cho một vấn đề bằng ChatGPT cũng giống như với con người: tìm ra thông qua đối thoại
Cá nhân tôi, ChatGPT đã cách mạng hóa quy trình làm việc của tôi. Nó có thể tạo ra đoạn mã làm việc tôi muốn, và cũng giúp tôi đóng khung vấn đề thành dạng có thể thực sự giải quyết được
Tính đến giờ, mô hình yi khá ổn, và trong vòng 2 tuần nữa sẽ có hai mô hình mới tốt hơn ra mắt. Xu hướng này sẽ tiếp diễn cho đến khi Altman tìm ra chính trị gia nào cần hối lộ mạnh tay nhất
Còn ChatGPT thì được huấn luyện bằng Reddit và Twitter
Có vẻ tác giả đã bỏ lỡ khá nhiều sắc thái. Đúng là đôi khi nó bịa ra chuyện nhảm, nhưng thường thì không, và nó có thể tiết kiệm rất nhiều thời gian. Tất nhiên đôi khi nó dẫn bạn đi sai đường hoặc đưa câu trả lời hoàn toàn sai
Xử lý điều đó thế nào là tùy người dùng. Bạn có thể cố tận dụng kết quả được đưa ra, hoặc thiết lập công cụ để dễ kiểm chứng và tăng năng suất, hoặc cũng có thể vùi đầu xuống cát rồi nói rằng tất cả đều sai nên không cần quan tâm
Cả hai đều là cách tiếp cận hợp lệ
AI không phải “đôi khi tạo ra nhảm nhí”, mà luôn luôn tạo ra nhảm nhí. Việc đôi khi đầu ra chính xác là kết quả của corpus ban đầu chính xác. Nhưng với AI, cũng như với kẻ tuyên truyền kích động, điều đó hoàn toàn không quan trọng; chỉ cần nghe có vẻ hợp lý là đủ
Nếu việc kiểm chứng nội dung AI nói ra là “dễ”, thì việc dạy AI kiểm chứng trước khi nói ra cũng “nên dễ”, và khi đó phê phán rằng AI là cỗ máy nhảm nhí sẽ tự động bị bác bỏ. Mối đe dọa thật sự là AI có thể tạo ra thứ nhảm nhí khó kiểm chứng, và làm điều đó với tốc độ khiến cả một màn Gish gallop chuyên nghiệp cũng phải xấu hổ
Trong nền kinh tế nhảm nhí, chẳng hạn bối cảnh có những quan chức viết báo cáo mà không ai đọc, và lý do họ viết báo cáo là để thổi phồng số lượng quản lý nhằm tăng lương cho quản lý, chỉ riêng điều này đã là đủ
Đây là chuyện khác với trường hợp người dùng rà soát đầu ra rồi dùng phán đoán chuyên môn để chọn thứ hữu ích, hoặc tinh chỉnh việc dùng công cụ qua lời gọi API thay vì ngây thơ nhập văn bản vào GUI mặc định
Có thể nói “ngôn ngữ là trình tạo nhảm nhí” không? Phần lớn ngôn ngữ chúng ta gặp, dù do con người hay máy tạo ra, đều rất đáng ngờ: “đội quân cơ động của ẩn dụ, hoán dụ và nhân cách hóa” như Nietzsche nói
Đây cũng là yếu tố làm cho ngôn ngữ thành công. Vì nó độc lập với ràng buộc phải là “sự thật”. LLM tận dụng đặc tính đó có lợi cho mình, nhưng không phải là nguồn gốc của nó
Trước đây tôi từng nghĩ chính xác như bài này, nhưng giờ thì thật sự không còn chắc nữa
Mã chạy được và hoạt động, tức là mã thực sự làm việc được yêu cầu, hoàn toàn không phải là “nhảm nhí”
Tìm kiếm kèm tham chiếu đến nguồn tùy chỉnh của một corpus cụ thể, tức RAG, cũng không phải là nhảm nhí
Vì vậy, AI đúng là trình tạo nhảm nhí theo nhiều nghĩa, nhưng chúng ta cũng vậy, và nó cũng có thể được dùng theo những cách hữu ích và không nhảm nhí
Trong thế giới coi trọng tối ưu hóa, có một khoảng cách khá lớn giữa thứ chạy được và thứ đúng đắn. Không phải lúc nào cũng vậy, nhưng nói nghiêm ngặt thì không thể chỉ nhìn theo nghĩa thuật toán; còn phải tối ưu cả khả năng tái sử dụng, khả năng kiểm thử, và mã do GPT tạo ra có thể bỏ sót những phần này
Có một video hay của một YouTuber Pháp bàn về chủ đề này 9 tháng trước: https://youtu.be/JcFRbecX6bk?feature=shared
Trong tiếng Pháp có từ baratineur mà tôi thấy chính xác hơn. Nó chỉ người nói với bạn điều bạn muốn nghe, bất kể khái niệm đúng hay sai
Nếu mọi người thực sự nhớ rằng LLM được thiết kế để tạo ra đầu ra nghe có vẻ hợp lý, thì có thể tiết kiệm được rất nhiều thời gian. LLM không “biết” gì cả, không “suy luận”, không “suy nghĩ”, và cũng không có ý kiến. Nó chỉ nhận một thứ như tiền tố văn bản hoặc seed rồi tạo đầu ra dựa trên những gì đã học từ các nội dung do con người thực sự tạo ra
Nhìn theo cách đó thì mọi thứ trở nên khá rõ ràng
Có nên tin câu trả lời không? Tất nhiên là không. Nó chỉ vừa tạo ra một thứ gì đó mà thôi
Có thể dùng để brainstorming không? Tất nhiên là có. Bạn có thể xem xét đầu ra rồi lấy dùng hoặc lấy cảm hứng
Có thể dùng để tạo mã hữu ích không? Tất nhiên là có. Nhưng phải đọc mã, để công cụ và con người rà soát, nhằm xác nhận nó hoạt động đúng như mình nghĩ
Có nên thay thế nhân viên không? Tất nhiên là không. Trình tạo hậu tố văn bản không thể xử lý các vấn đề phức tạp hay chịu trách nhiệm cho các quyết định
Bên trong có thể có mô hình thế giới, cũng có thể không. Ai mà biết được. Điều chúng ta biết chỉ là “dự đoán token tiếp theo” là một mục tiêu đơn giản, nhưng để hoạt động tốt như hiện nay thì bên trong chiếc hộp đen đó cần có độ phức tạp khổng lồ