Tôi đã chán ngấy nó
(paulrobertlloyd.com)- Bài viết nói về cảm giác mệt mỏi khi “nó” — thứ thậm chí không được gọi tên — bao trùm toàn xã hội và trở thành một sự hiện diện dường như không thể tránh khỏi
- Giống như cụm “rubbish in and rubbish out”, tác giả xem cả đầu vào lẫn đầu ra đều là rác, thể hiện sự phản cảm mạnh mẽ với sản phẩm tạo ra và trải nghiệm sử dụng
- Phê phán rằng dù không ai yêu cầu và cũng không ai mong muốn, nếu các cổ đông đòi hỏi thì vô số lời từ chối sẽ biến thành sự chấp nhận
- Các nhà hoạch định chính sách, truyền thông, câu chuyện bên bàn nhậu, cho đến trải nghiệm sử dụng cá nhân đều xoay quanh nó, chiếm lĩnh cả đối thoại hằng ngày
- Ngay cả khi không gọi tên, việc người đọc vẫn biết đó là gì chính là bằng chứng cho sự mệt mỏi rằng nó đã thấm quá sâu vào đời sống
Sự mệt mỏi do “nó” không tên gây ra
- Toàn bộ bài viết không trực tiếp gọi tên đối tượng cụ thể, mà chỉ gọi là it
- Đối tượng đó được mô tả như một sự hiện diện lan rộng và bao trùm mọi thứ
- Trọng tâm là góc nhìn cho rằng nó không thể tránh khỏi và dẫn đến những hệ quả phi nhân tính hóa
- Câu “rubbish in and rubbish out” cô đọng thái độ không tin tưởng cả đầu vào lẫn đầu ra
- Nhận định rằng không ai yêu cầu và không ai mong muốn được lặp lại nhiều lần
Áp lực xã hội và sự xâm nhập vào đời sống hằng ngày
- Bài viết phê phán tình trạng nhân tài và công sức được dùng để thúc đẩy sự lan rộng của nó, theo kiểu “những người xuất sắc nhất trong thế hệ của tôi đang nghĩ cách khiến mọi người dùng nó”
- Tác giả cho rằng dù đã có vô số lời “không”, khi các cổ đông bắt đầu yêu cầu thì chúng sẽ biến thành “có”
- Các nhà hoạch định chính sách dịch chuyển theo hướng chiều theo nó
- Bài viết nói rằng để vận hành nó cần đến các nhà máy điện hạt nhân đã đóng cửa, và để làm mát cần hàng triệu gallon nước
- Truyền thông hoặc ca ngợi hoặc chỉ trích nó, và những cuộc trò chuyện bên bàn nhậu rốt cuộc cũng trôi về chủ đề đó
- Mọi người không ngừng nói về cách họ dùng nó, và hành vi sử dụng đó tự thân đã khiến tác giả cảm thấy bẩn thỉu
- Việc dù không nhắc tên một lần nào người đọc vẫn biết đang nói về gì là dấu hiệu cho thấy nó đã xâm nhập vào đời sống hằng ngày đến mức phát ngán
1 bình luận
Các ý kiến trên Hacker News
Tôi chán cách nói những bộ óc xuất sắc nhất của thế hệ chúng ta rồi. Lần đầu tôi thấy là câu “những bộ óc xuất sắc nhất của thế hệ chúng ta đã được thuê để bán quảng cáo”, nhưng chỉ vì biết làm máy tính chạy ầm ĩ không có nghĩa là trở thành “bộ óc xuất sắc nhất”
Tôi cho rằng nếu là “bộ óc xuất sắc nhất” thì trước hết phải có khả năng đồng cảm, biết lo cho hạnh phúc của người khác, nhìn trạng thái của thế giới một cách triết lý, có kiên nhẫn và tò mò, và không chỉ thông minh mà còn phải khôn ngoan
Việc chúng ta cứ đặt những kẻ tham lam lên vị trí “bộ óc xuất sắc nhất” chỉ vì khả năng bóc lột người khác để thu lợi cá nhân tự nó đã là một phần của vấn đề
Marketing là một trong những lĩnh vực hoạt động hiếm hoi của con người mà tiến bộ công nghệ nhìn chung làm cuộc sống tệ hơn, làm phân tán sự tập trung và rút cạn ví tiền
Marketing “lý tưởng” hiệu suất 100%, giả định con bò hình cầu, về cơ bản giống như thôi miên để người ta tiêu hết tiền vào bất kỳ sản phẩm hay dịch vụ nào, và về mặt cấu trúc thì đẳng cấu với cướp bóc. Hiệu suất 10% thì sẽ trông ra sao? 1% thì sao? Xâm phạm quyền tự quyết cá nhân và sự an ổn tài chính thì làm sao có thể là điều tốt cho xã hội? Nếu ở mức 0,001% vẫn có lãi thì có được phủ quảng cáo lên cả thế giới không? Bạn muốn mỗi lần một người hàng xóm mua một món đồ thì bản thân phải hứng chịu bao nhiêu quảng cáo?
Nhưng trong IT tôi cũng thấy nhiều kẻ ngốc tin rằng chỉ vì hiểu thuật toán và cấu trúc dữ liệu nên mình giỏi mọi thứ. Tôi không biết đây có phải hiện tượng riêng của IT không, nhưng những gì DOGE đang làm trông đúng là kiểu đó
Đây là lời than thở về thực tế rằng trong một thế giới tốt đẹp hơn, những người giải quyết vấn đề xuất sắc ở nhiều lĩnh vực như các nhà toán học, vật lý học, tâm lý học hàng đầu lẽ ra đang giải quyết các vấn đề thật, nhưng do sự kỳ quặc của cấu trúc kinh tế lại bị đưa vào những việc như công nghệ quảng cáo, nơi trả lương cao nhưng hủy hoại cuộc sống của con người trên quy mô lớn
Tôi nhớ cách nói này không phải là đánh giá con người bằng độ thông minh, mà là than thở về một thế giới phân bổ tiềm năng của nhân loại quá sai lệch, đến mức những người giải quyết vấn đề giỏi nhất lại được huy động để tạo ra vấn đề cho tất cả mọi người
Douglas Adams từng tóm tắt phản ứng với công nghệ như sau. Những gì đã tồn tại trên đời khi ta sinh ra thì bình thường và tự nhiên; những gì được phát minh trong khoảng 15–35 tuổi thì mới mẻ, thú vị và mang tính cách mạng, có thể lấy làm sự nghiệp; còn những gì được phát minh sau 35 tuổi thì đi ngược trật tự tự nhiên
Chắc đoán được tuổi rồi nhỉ
Giới học thuật cũng chạy theo trào lưu chẳng kém gì giới công nghiệp. Các mô hình này được huấn luyện để dự đoán token tiếp theo khi có ngữ cảnh, và chúng làm đúng việc đó rất tốt. Vậy bạn nghĩ tôi bao nhiêu tuổi?
Ở nhiều khía cạnh nó làm tôi nhớ đến thời dot-com. Đây là một công nghệ thực sự mang tính biến đổi, có thể quá trình hiện thực hóa tiềm năng còn chưa đạt đến 20%, kỳ vọng thì đã bị thổi lên tới 200% tiềm năng, và xung quanh nó cũng đã hình thành bong bóng thị trường chứng khoán
Phần còn lại xin để bạn tự tưởng tượng, nhưng ngay cả nhìn bằng một cái đầu hơi rời rạc và cứng nhắc, việc gì sẽ xảy ra tiếp theo, rồi sau đó và sau đó nữa, có vẻ rất rõ ràng. Và khi đó ta mới đến phần thật sự hay. Vì thế tôi không thấy chán hay mệt. Làm trong ngành công nghệ bây giờ vẫn thú vị như hồi trẻ, và theo một số mặt còn hạnh phúc hơn
Thực ra đây không phải vấn đề tuổi tác. Ví dụ những thứ như “NFT”, “web3.0”, “Blockchain technologies” cũng được mọi lứa tuổi lao vào cơn thổi phồng
Sống trong trạng thái luôn trực tuyến là một lựa chọn. Nếu không chọn liên tục đụng phải nó thì cũng chẳng có gì để chán. “Chủ đề nóng hiện nay” chỉ trở thành chủ đề nóng hiện nay khi bạn vây quanh mình bằng những người quan tâm sâu sắc đến nó
Tôi có dùng mô hình ngôn ngữ lớn cho một số tác vụ cụ thể, và có những việc nó làm khá tốt. Nhưng làn sóng thổi phồng chung từ những người không làm kỹ thuật, cố nhét nó vào mọi use case trên đời, thì thật sự mệt mỏi. Việc phải giải thích lần thứ n vì sao thứ chúng tôi đang làm không phù hợp với AI™ không mệt vì phải giải thích thêm một lần nữa, mà vì tôi biết tuần sau ít nhất cũng sẽ phải làm lại vài lần
Trong cơn thổi phồng này, AI gần như được đối xử như phép thuật theo nghĩa đen. Nó có thể làm bất cứ điều gì, chỉ cần muốn AI làm hộ là được. Giờ tôi còn chẳng biết AI rốt cuộc có nghĩa là gì nữa; nó đã thành một thuật ngữ ô bao chứa tư duy ma thuật
Mệt, và chắc chắn là chán
Những chu kỳ thổi phồng phiền toái kiểu này thường không làm tăng vĩnh viễn mức nhiễu nền của Internet, hoặc DDoS các trang web ngẫu nhiên khi cố cào dữ liệu, hoặc phá vỡ tiền đề cốt lõi rằng ta có thể tin những gì mình nhìn thấy và nghe thấy
Điều này thật vô lý. Chúng ta đã tạo ra công cụ vĩ đại nhất trong lịch sử nhân loại mà mọi người vẫn than phiền
Nó giúp lập trình, giúp học CAD và sửa các vấn đề mô hình hóa, hỗ trợ xử lý sự cố động cơ máy thổi lá 2 thì, và đều đặn giải thích từng bước cả những thuật toán LeetCode phức tạp. Nó biết mọi thứ theo đúng nghĩa đen, vậy mà mọi người vẫn cứ phàn nàn
Sự thật khó chịu là AI là kẻ lừa đảo giỏi nhất thế giới. Công cụ này và cơn thổi phồng quanh nó đã tạo ra một môi trường cực kỳ hiệu quả trong việc đánh lừa mọi người rằng AI có vẻ hiểu biết và hữu ích ngay cả khi thực tế không phải vậy. Những người bị lừa thì không đủ am hiểu về chủ đề đó để nhận ra mình đang bị dắt mũi, hoặc dù nhận ra thì vì sĩ diện cũng không thừa nhận
Vì vậy, những người hiểu sâu về một lĩnh vực cụ thể nói rằng AI mắc lỗi, trong khi những người thiếu chiều sâu kỹ thuật thực sự, như các CEO, lại ca ngợi AI. Họ chỉ biết đủ để nghĩ rằng mình hiểu “kết quả tốt” là gì, nhưng không biết đủ để nhận ra đó là thứ nhảm nhí được bọc trong vẻ ngoài hợp lý
Nhưng việc nhiều kỹ năng đã thành thạo về cơ bản đã trở nên vô dụng lại là chuyện khác. Theo thời gian, khi công cụ này tốt hơn, nó có thể tước luôn cả năng lực chủ thể hành động để thay đổi hoàn cảnh mà mình đang ở trong đó
Nó không thể có tri thức
Vì thế nó nhàm chán
Chắc bạn từng có kiểu hội thoại này với ChatGPT rồi chứ? Nó đưa ra “Đây là giải pháp!”, rồi bạn nói “Sai rồi, phải làm X”, thế là nó đáp “Đúng vậy, câu trả lời của tôi sai”, lặp lại lời bạn nói rồi đưa ra bản sửa, nhưng vẫn sai. Bạn lại nói “Tôi đã bảo làm X”, nó nói “Giờ thì đã rõ” nhưng rồi vẫn sai tiếp
Tệ hơn nữa, nó còn có thể bị đánh lừa. ChatGPT nói đúng “X + Y = Z”, nhưng nếu người dùng nói sai rằng “Không, X + Y = Q”, nó cũng có thể giải thích rằng “Đúng vậy, X + Y = Q mới đúng”
Nó có thể hữu ích để tạo mã boilerplate hoặc văn bản, nhưng khi đó cũng vẫn thường xuyên mắc lỗi
Thành thật mà nói, đây thuộc nhóm chủ đề trò chuyện kém thú vị nhất. Ai đó vừa nói “dùng AI cho việc này…” là tôi lập tức tắt não
Dữ liệu là bảng, và người ta ghi nhóm đối chứng rải rác khắp nơi, trong tên tệp hoặc các cột tùy ý, bằng những chuỗi khác nhau như “control”, “ctrl”, “ctr”, “t0”. Nó hoạt động tốt, và tôi vui vì đã thử. Theo thời gian có lẽ sẽ thu được giá trị từ đó, và may là không ai tắt cuộc trò chuyện
Hoàn toàn không nhàm chán
Dù có thổi phồng, việc chúng ta ở đây để thảo luận về cách dùng, cách lạm dụng và tác động của nó là quan trọng. Có phần thú vị, có phần tệ đến mức cũng thú vị
Tôi hiểu sự mệt mỏi. Nhưng bàn xem nó có được dùng đúng hay không, hoặc có được dùng thật sự hay không, là việc có giá trị
Cá nhân tôi, một trong những lời khuyên hay nhất là thế này. Hãy học cách sống trong vùng xám, và đừng giáo điều
Thế giới không phải đen trắng. Hãy lấy một phần của trắng đen, nhưng đừng sợ thay đổi quan điểm về một số thứ
Với ai đó điều này có thể nghe hiển nhiên, và về lý thuyết thì đơn giản. Nhưng trên thực tế, ít nhất theo trải nghiệm của tôi, hoàn toàn không phải vậy. Nó đòi hỏi thay đổi lối tư duy và thế giới quan, và thường càng lớn tuổi càng khó hơn. Vì ta muốn gìn giữ cách sống mà mình tận hưởng
Đúng là tác giả có cái nhìn tiêu cực về các mô hình ngôn ngữ lớn, nhưng cảm xúc mà bài viết này gợi lên sẽ chạm tới nhiều người. Kể cả với người dùng mô hình ngôn ngữ lớn rất nhiều như tôi. Bạn không cần hoàn toàn, luôn luôn đồng ý với bài viết này. Dù vậy, đó vẫn là điều cần được nói ra
Đôi khi tôi muốn tháo chiếc mũ phù thủy công nghệ xuống, đội chiếc mũ con người đơn giản lên và thưởng thức những bài thơ như thế này. Rồi thở dài, tự kiểm lại thôi thúc muốn nhìn điện thoại, kiểm lại cả thôi thúc muốn nói về kế hoạch kiếm tiền hay kế hoạch theo đuổi ham muốn tình dục, sau đó nhìn người bạn ở quán bar, nhận ra rằng họ sẽ không ở bên mình mãi mãi, và thật lòng nói: “Dạo này cậu thế nào, bạn tôi?”
Không ai muốn nó ư? Không ai mong nó ư?
Bạn đang nhìn không đúng rồi
Tôi muốn. Tôi nghĩ đó là cơ hội duy nhất để nhanh chóng giải quyết những vấn đề khổng lồ và phức tạp như lão hóa, ung thư, Alzheimer
Thứ nhất, trong các lĩnh vực bạn nhắc đến, đã có những tiến bộ rất lớn đang diễn ra. Tôn AI là “cơ hội duy nhất” là phóng đại đáng kể, và xét việc những nghiên cứu này đang thiếu kinh phí nghiêm trọng, đó còn có thể là cách nói gây hại
Thứ hai, bài thơ này có vẻ nói về các mô hình ngôn ngữ lớn và chatbot được tô hồng hơn là machine learning nói chung. Trong bối cảnh đó, tôi không cho rằng chúng cực kỳ hữu ích cho nghiên cứu Alzheimer, và chắc chắn không phải “cơ hội duy nhất”
Chưa kể tác động môi trường mà những con người sống vĩnh viễn sẽ tạo ra
Cuối cùng tôi cũng đang học cách đưa unit test vào mã Python. Đây là việc tôi đã trì hoãn từ lâu. Các nhà tin sinh học cũng tạo ra khá nhiều đoạn mã lộn xộn nhất trên đời
Claude đang cầm tay dẫn dắt tôi và kiểm tra xem liệu nó có hiểu từng ký tự tôi gõ hay không. Đến giờ thì vẫn ổn
Dù vậy, đây vẫn là một bài viết dễ đọc và khiến tôi bật cười. Nó có thể áp dụng cho nhiều thứ như tiền mã hóa, chính trị, Rust, Nix, quảng cáo và “những trí tuệ kiệt xuất nhất của thế hệ chúng ta”
Vì có chuyện về nhà máy điện hạt nhân nên tôi đoán đây là bài viết về AI, nhưng dù sao thì những chủ đề tôi vừa nhắc đến hoàn toàn không hề nhàm chán