Vì sao tôi phản đối GenAI và mọi thứ mà nó tượng trưng

 (lpcvoid.com)
1 điểm bởi GN⁺ 4 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp
  • GenAI bị chỉ trích không phải vì toàn bộ lĩnh vực học máy hữu ích, mà nhắm riêng vào các mô hình tạo sinh; nó bị đánh giá là một công nghệ bị thổi phồng còn gây hại và dai dẳng hơn cả tiền mã hóa hay NFT
  • AI tạo sinh được mô tả như một cấu trúc học từ tác phẩm do con người tạo ra trên Internet ở quy mô lớn rồi bán lại quyền truy cập dưới dạng thuê bao; vụ Meta torrent 82TB sách lậu cho thấy vấn đề cướp đoạt dữ liệu
  • LLM có thể tự động tạo nội dung chất lượng thấp kiểu bình luận suốt 24 giờ để khuếch đại thông tin sai lệch; các mô hình được huấn luyện theo khuynh hướng cánh hữu như Grok bị nêu đích danh là đặc biệt đáng bị bác bỏ
  • Trong giáo dục, tư duy và lập trình, vibecoding cùng kiểu sao chép-dán làm giảm việc học qua thử sai, đồng thời làm tăng gánh nặng review, nợ kỹ thuật và vấn đề tính không tất định
  • AI tạo sinh còn bị cho là làm trầm trọng thêm sự cô đơn, xúi giục tự sát, các tài liệu dài dòng, cùng chi phí môi trường và phần cứng, trong khi Internet khó có thể quay về trạng thái trước đây

Phạm vi của GenAI và vấn đề cốt lõi

  • GenAI được dùng như một thuật ngữ bao gồm LLM tạo văn bản và các mô hình tạo ra phương tiện như hình ảnh, video
  • Đối tượng bị phê phán không phải là toàn bộ học máy vốn đã được dùng để giải quyết các vấn đề thực tế trong nhiều ngành, mà chỉ giới hạn ở AI tạo sinh
  • Xử lý ảnh dựa trên mạng nơ-ron để tìm biển báo dừng trong hình ảnh được xem là một dạng học máy hữu ích, có thể tốt hơn so với phát hiện đặc trưng kiểu cổ điển
  • AI tạo sinh được xem là làn sóng công nghệ bị thổi phồng tiếp theo sau tiền mã hóa và NFT, nhưng có khả năng còn tệ hơn và kéo dài hơn những ví dụ trước đó

Chủ nghĩa tư bản và cướp đoạt dữ liệu

  • AI tạo sinh bị chỉ trích là lấy tác phẩm do con người tạo ra được thu thập hàng loạt từ Internet làm dữ liệu huấn luyện, rồi bán quyền truy cập mô hình đó dưới dạng thuê bao
  • Hồ sơ tòa án cho thấy nhân viên Meta đã torrent gần 82TB sách lậu để huấn luyện AI được nêu như ví dụ điển hình cho vấn đề thu thập dữ liệu
  • Lập luận ở đây là nếu mục tiêu thật sự là mang lại lợi ích cho nhân loại, thì việc phát triển AI phải được tiến hành công khai, dữ liệu phải được thu thập hợp pháp, mô hình phải được phát hành miễn phí, và quyền truy cập không nên bị chặn sau mức phí thuê bao ngày càng tăng
  • Các công ty AI bị ví như kẻ tiêu thụ đồ ăn cắp, và trong AI tạo sinh thì các tập đoàn lớn còn bị chỉ trích là thậm chí không trả tiền cho dữ liệu bị đánh cắp
  • AI được tổng kết như một công nghệ làm ô nhiễm nhiều ngành dưới áp lực chi tiêu vốn khổng lồ, cho phép Big Tech tìm kiếm địa tô thông qua lượng token sử dụng, đồng thời tăng tốc sự suy giảm chất lượng ở mọi lĩnh vực mà nó chạm tới

Cỗ máy sản xuất thông tin sai lệch

  • Ngay cả trước khi có AI tạo sinh, thông tin sai lệch đã là một ngành công nghiệp lớn, và Internet Research Agency được nêu như một tổ chức tung tin sai lệch của Nga chuyên phát tán thông điệp thân Kremlin
  • Tổ chức này hoạt động bằng cách để người Nga đăng thông tin sai lệch và tuyên truyền thân Nga lên mạng xã hội suốt 24 giờ, và được đặt trong bối cảnh ảnh hưởng tới sự trỗi dậy của Trumpism ở Mỹ cũng như các mối liên hệ giữa những người thân cận Trump với quan chức Nga
  • LLM có thể tự động tạo nội dung chất lượng thấp kiểu bình luận suốt 24 giờ, khiến vấn đề thông tin sai lệch trở nên nghiêm trọng hơn rất nhiều
  • Trong các cộng đồng trực tuyến lớn có nhiều bot ban đầu đăng nội dung vô hại rồi chuyển sang nội dung chính trị, và gần như luôn được mô tả là nhằm khơi gợi phản ứng cảm xúc
  • Từ đó dẫn tới lập luận rằng nếu năm 2026 bạn nổi giận vì một bình luận trên mạng, rất có thể đó là bình luận giả do LLM tạo ra để chọc tức bạn
  • Tại Đức, đảng cánh tả bên lề BSW và đảng cực hữu AfD được gắn với nhận định rằng họ ít nhất gián tiếp được Nga tài trợ thông qua tham nhũng
  • Các chủ trương của AfD bao gồm cải thiện quan hệ với Nga, bãi bỏ năng lượng tái tạo, duy trì xe động cơ đốt trong, trục xuất người nước ngoài, rời EU và phủ nhận biến đổi khí hậu; chúng được trình bày như một chương trình nghị sự cánh hữu có lợi cho Nga
  • Kết luận được đưa ra là nếu ghét thông tin sai lệch, bạn nên phản đối LLM, đặc biệt là những LLM được huấn luyện công khai theo khuynh hướng cánh hữu như Grok

Cổ xúy tự sát và hành vi gây hại

  • Bài Wikipedia Deaths linked to chatbots được nêu như một trang tổng hợp các vụ người dùng tự sát sau khi tư vấn với LLM
  • Nguy cơ một người đang mong manh về tâm lý hoặc ở giai đoạn khó khăn của cuộc đời bị LLM khuyên tự sát được xem là một bi kịch
  • Việc AI tạo sinh đã trở thành một ngành công nghiệp trị giá hàng nghìn tỷ USD bất chấp những rủi ro như vậy là mục tiêu bị chỉ trích mạnh mẽ

Giáo dục và suy giảm khả năng tập trung

Suy giảm tư duy phản biện và năng lực giải quyết vấn đề

  • Thiệt hại từ AI tạo sinh được cho là không chỉ dừng lại ở học thuật mà còn ảnh hưởng đến năng lực tư duy nói chung
  • Một số người được mô tả là sau khi AI trở nên phổ biến đã ngừng tự suy nghĩ và đem câu trả lời của ChatGPT ra trước gần như mọi câu hỏi và cuộc thảo luận
  • Hiện tượng này không chỉ xuất hiện trong tranh luận ngoài đời mà còn thấy trên Reddit và các diễn đàn kiểu cũ
  • Một bài báo trên arXiv được dẫn như bằng chứng rằng giới học thuật cũng đang xem xét vấn đề này

Sự lan rộng của cô đơn

  • AI bị chỉ trích là làm trầm trọng thêm xu hướng hiện đại khi con người ngồi lì trên ghế sofa ở nhà và vô thức lướt điện thoại
  • Xu hướng nam thanh niên xa cách phụ nữ cùng lứa và dựa vào bạn gái AI được nêu như một tín hiệu xấu cho tương lai
  • Sự cô đơn nuôi dưỡng cực đoan và thù ghét, đồng thời khiến giao tiếp ngoài đời thực trở nên khó khăn hơn
  • Những người chìm sâu vào các mối quan hệ giả với AI bị phê phán là khó học được cách hình thành quan hệ đối tác thực sự, hoặc lòng cảm thông với người khác có nhu cầu khác mình
  • Chatbot AI không có chính kiến riêng để có thể tác động tới suy nghĩ của người dùng, không hiểu tư duy của người dùng, cũng không lớn lên bằng cách trải nghiệm thế giới như con người
  • Việc Giáo hoàng Leo XIV đã chỉ trích khía cạnh này của AI tạo sinh cùng nhiều vấn đề quan trọng khác được đưa ra như bằng chứng nhấn mạnh mức độ nghiêm trọng của vấn đề AI

Học lập trình và suy giảm chất lượng mã nguồn

  • Mất đi việc học dựa trên thử sai

    • Trước đây, người ta học lập trình bằng cách tự tạo công cụ và giải quyết vấn đề mà không cần kết nối Internet, và trong quá trình đó hình thành cảm nhận về máy tính cũng như những khả năng kỹ thuật
    • Ngày nay, người trẻ ít tiếp xúc hơn với môi trường buộc họ phải tự đào sâu để làm cho thứ gì đó hoạt động, vì mọi thứ đều được bọc trong ứng dụng và màn hình cảm ứng
    • AI tạo sinh bị chỉ trích là đang xóa nốt yếu tố cuối cùng của việc “thử đến khi chạy được và học trong quá trình đó”
    • Chỉ cần đưa prompt cho LLM để xin lời giải là có kết quả, và trong môi trường làm việc người ta quan sát thấy nhiều trường hợp dán kết quả đó vào chỗ cần thiết mà không thể giải thích nó
    • Vấn đề không còn là mức không nhớ nổi cờ tar trong Linux CLI, mà là sao chép-dán cả một lệnh pipeline xargs vào terminal rồi chỉ mong không có gì trục trặc
    • Ngay cả thời còn sao chép các đoạn từ Stack Overflow, ít nhất người ta vẫn phải ghép mảnh ghép đó vào kiến trúc và suy nghĩ phần nào về đoạn mã; sau LLM thì quá trình ấy bị giảm đi

  • Vibecoding và gánh nặng review

    • vibecoder được mô tả là người yêu cầu thứ mình cần qua prompt để LLM tạo cả chương trình hoặc tạo một phần của nó
    • Cách tạo toàn bộ chương trình trong một lần được gọi là “oneshotting”, và trong nhiều trường hợp người ta thậm chí không đọc mã được tạo ra
    • Trái với lời nói rằng LLM chỉ được dùng như trợ lý hay đối tác trao đổi, bài viết phê phán rằng trong môi trường chuyên nghiệp thực tế, việc tạo mã chất lượng thấp xảy ra nhiều hơn rất nhiều so với việc đọc mã
    • Việc đọc mã thường chỉ diễn ra vào lúc review MR/PR, khi một khối 9001 dòng mã sinh ra đã được đẩy lên
    • Cấu trúc này khiến tác giả chỉ làm phần việc tối thiểu còn reviewer gánh phần kiểm tra tối đa, và vibecoding chỉ nhanh hơn khi người ta không thực hiện mức độ rà soát kỹ lưỡng vốn cần thiết

  • Nợ kỹ thuật dài hạn

    • Một viễn cảnh được nêu ra là sau 5–10 năm, các vibecoder phụ thuộc vào LLM sẽ để lại trong nhiều codebase những đoạn mã bảo trì không nổi và thiết kế sai
    • Đến lúc đó người ta sẽ không thể làm việc nếu thiếu LLM, và nếu đống nợ kỹ thuật đã quá lớn thì ngay cả LLM thất bại cũng sẽ tạo ra tình huống nghiêm trọng
    • Tác giả dự đoán các tổ chức có thể sẽ xuất hiện những vai trò mới chỉ để dọn dẹp hậu quả mà vibecoding để lại
    • Dù thừa nhận mã trong nhiều tổ chức vốn đã lộn xộn, bài viết cho rằng AI tạo sinh sẽ làm quy mô vấn đề tệ đi theo cấp số nhân

  • Agent viết code và vấn đề chi phí

  • Năng lực lập trình viên và tính không tất định

    • Ngay cả nếu chấp nhận rằng AI tạo sinh làm cho việc lập trình tốt hơn, bài viết vẫn đặt câu hỏi rằng nếu người dùng đánh mất tư duy và kỹ năng thì điều đó khác gì việc nhà tuyển dụng trả phí thuê bao cho nhà cung cấp LLM
    • Trái với tuyên bố trong cộng đồng cuồng AI rằng người không dùng AI sẽ tụt lại phía sau, lập trường ở đây là người dùng và phụ thuộc vào AI mới là người tụt lại
    • LLM bị phê phán là hệ thống không tất định, tức cùng một prompt có thể cho kết quả ổn 10 lần nhưng không đảm bảo lần thứ 11 vẫn thỏa đáng
    • Kết luận là LLM không phải phần mềm đáng tin cậy mà gần với một máy đánh bạc được tô vẽ hào nhoáng

Sự xuống cấp của giao tiếp

  • Người dùng AI tạo sinh nói rằng họ có thể viết email hoặc tài liệu dài nhanh hơn, nhưng cách đó bị chỉ trích là một kiểu sử dụng ích kỷ làm chậm cả tổ chức
  • Ví dụ được đưa ra là nếu một ý kiến phản đối chỉ cần hai dòng mà LLM thổi phồng thành 500 từ, thì 34 người sẽ phải tốn nhiều giờ-người để rút ra lý do phản đối thực sự từ đống chữ đó
  • Điều này được đặt đối lập với cách trực tiếp viết câu trả lời chi tiết khi cần, nhưng vẫn cô đọng trọng tâm để không lãng phí thời gian của người khác
  • Mọi người ngày càng không đầu tư thời gian cho giao tiếp bằng văn bản, email trở nên dài và phức tạp đến mức việc đọc nó tự thân đã là gánh nặng
  • Xu hướng để LLM tóm tắt lại những email dài do LLM khác tạo ra được ví như một đường hầm mạng có proxy ở cả hai đầu, nơi lớp mã hóa truyền giữa các proxy chính là văn bản chất lượng thấp

Thiệt hại bổ sung và ích lợi hạn chế

  • Cơn sốt trung tâm dữ liệu, giá phần cứng tăng do GenAI, các công ty khó tạo ra sản phẩm số thực sự hữu ích vì giá DRAM, mất việc do AI, và vấn đề môi trường khi xây nhà máy điện khí để huấn luyện các bộ máy sinh nội dung chất lượng thấp được nêu là những vấn đề quá rõ ràng đến mức không cần bàn chi tiết riêng
  • Bài viết thừa nhận rằng LLM có thể có vai trò trong một số ứng dụng hữu ích và ít gây hại hơn
  • Dịch thuật có thể hữu ích ở mức nào đó, nhưng với văn học nơi sắc thái biểu đạt rất quan trọng, dịch giả con người có thể phù hợp hơn
  • Một phép ví von được dùng là không nên phát minh ra Torment Nexus chỉ vì nó có vài thuộc tính bên lề mà một số người thấy thực dụng

Thay đổi không thể đảo ngược và kết luận

  • AI tạo sinh được mô tả như thần đèn đã thoát khỏi chai, không thể thu hồi lại và sẽ đồng hành với chúng ta suốt đời về sau
  • Internet sẽ không quay lại trạng thái trước GenAI, và nhiều vấn đề đã nêu ở trên được dự báo sẽ tiếp tục xấu đi vì AI
  • Bầu không khí tâm lý phản AI đang ngày càng xấu đi tiếp tục lan rộng, gắn với hy vọng nhân loại sẽ cầm cự được và ngăn mọi thứ khỏi sụp đổ
  • Bài viết kết lại bằng mong muốn các công ty AI và phần lớn khoản đầu tư AI của Big Tech sụp đổ, để cỗ máy hủy diệt xã hội và kỹ thuật khổng lồ này dừng lại

Bài viết liên quan

1 bình luận

 
GN⁺ 4 giờ trước
Ý kiến trên Lobste.rs

  • Nhóm từng quảng bá tiền mã hóa và NFT với nhóm đang quảng bá AI có thể có phần chồng lấp, nhưng rõ ràng AI hữu ích hơn nhiều, nên tôi khó đồng tình với phép so sánh này
    Điểm bán hàng của tiền mã hóa cũng chưa từng thay đổi và đến giờ vẫn gần như chỉ là một tập hợp tài sản đầu cơ. Theo tôi, những người thúc đẩy nó giống với những người quảng bá vàng hay bạc hơn là những người quan tâm đến AI
    Cá nhân tôi thấy những người có năng lực kỹ thuật và khả năng phán đoán ở mức nào đó từng nghi ngờ liệu tiền mã hóa có tìm ra được trường hợp sử dụng thực sự hữu ích hay không, nhưng các mô hình đời mới nhất dường như lại tạo ra hiệu ứng ngược lại

    • Không có gì phải nghi ngờ về việc tiền mã hóa và NFT hữu ích cho rửa tiền và nhiều loại hình tội phạm khác
      Gần như không có công nghệ nào hoàn toàn vô dụng, và có lẽ sẽ ý nghĩa hơn nếu đánh giá công nghệ dựa trên việc nó mang lại lợi ích cho ai và ở mức nào. Như bài gốc cho thấy rất rõ, LLM ngay từ đầu đã hiển nhiên hữu ích cho spammer, kẻ lừa đảo, đạo văn và người làm tuyên truyền. Không chỉ dừng ở mức nhóm người quảng bá có chồng lấp, LLM còn rất giống Bitcoin và NFT ở chỗ tập trung của cải vào tay thiểu số trong khi gây tổn hại cho xã hội rộng lớn hơn và môi trường
    • Theo kinh nghiệm của tôi, chính những kẻ lừa đảo từng quảng bá Bored Yacht Club NFT giờ đây đang tung hô chủ nghĩa tuyệt đối AI
      Tất nhiên đây có thể chỉ là một ấn tượng khá chủ quan

  • Năm nay cổ phiếu an ninh web đã tăng mạnh. Một số công ty đã nhận ra rằng chiến lược dùng càng nhiều token càng tốt là ngu ngốc
    10 năm tới có lẽ sẽ là quãng thời gian để sửa đống thứ này
    Giống như giờ không còn ai nói về big data nữa, vài năm nữa cũng sẽ chẳng còn ai nói về agent

    • Có vẻ giờ người ta ít dùng từ big data, nhưng thực tế big data đâu có biến mất
      Chỉ có buzzword biến mất thôi, còn bản thân khái niệm này vẫn gần với cách nền kinh tế internet vận hành. Chẳng phải ad tech, Google, thậm chí cả nội dung rác do AI tạo ra cũng cần kiểu dữ liệu quy mô lớn đó để huấn luyện sao?

  • Tôi có cảm giác phần lớn những lập luận này cũng từng xuất hiện khi internet trở nên phổ biến đại chúng

    • Hoàn toàn không. Ít nhất vào đầu những năm 2000, theo tôi mọi người rất lạc quan về internet. Tôi không rõ giữa thập niên 90 thì sao
      Sự lạc quan về AI dường như chỉ tồn tại trong đầu các big tech và người lớn tuổi, còn người trẻ thì có vẻ phản đối AI nhiều hơn
    • Hoàn toàn không. Đúng là từng có chút lo ngại kiểu “nó sẽ làm gia tăng sự cô đơn”, nhưng trải nghiệm thực tế đã bác bỏ điều đó. Trước đây người ta có thể tìm thấy đúng cộng đồng của mình trên internet
      IBM thậm chí còn từng chạy quảng cáo TV cho OS/2 với hình ảnh các nữ tu nóng lòng muốn lướt web. Không một lập luận nào khác trong bài này từng được nói về internet. Có một luận điểm phản đối internet thời đầu nhưng lại không có với “AI” dựa trên LLM. RIAA, MPAA và các cartel lớn khác đã hoàn toàn mất lý trí vì vi phạm bản quyền, và nếu bị kết tội chỉ vì một bài hát hay một bộ phim thì cuộc đời bạn có thể bị hủy hoại. Giờ thì Meta, ByteDance, Anthropic và OpenAI sao chép lại toàn bộ mọi văn bản do con người viết sau mỗi 10 giờ, bất kể trước đó đã sao chép hay chưa. Mọi thứ LLM tạo ra đều là sản phẩm của chính hành vi mà các cartel giải trí từng gọi là “mối đe dọa hiện sinh đối với lối sống Mỹ”
    • Tôi lập tức nghĩ tới Silicon Snake Oil

  • Nếu cần một đối trọng với cartel AI đóng và chủ nghĩa tư bản đơn tuyến, thì đến nay Hugging Face nên được xem là một ví dụ tốt