- Khi AI thay thế rất nhiều việc làm, đồng thời cũng xuất hiện ngày càng nhiều công việc mới dành cho con người để dọn dẹp sạch sẽ những kết quả vô nghĩa do AI tạo ra
- Khi các công cụ tạo sinh lan rộng, lượng nội dung được sản xuất với chi phí thấp và tốc độ cao bùng nổ, kéo theo hiện tượng chất lượng suy giảm và lỗi sai được bù đắp bằng lao động hậu biên tập và hiệu đính của con người
- AI slop tràn lan trên mọi lĩnh vực từ văn bản, hình ảnh đến video, và vấn đề mang tính cấu trúc này đang cố định hóa thông qua các nền tảng viral, tìm kiếm và thương mại
- Ngày càng nhiều nhà văn, nhà thiết kế và lập trình viên làm việc như “nhân sự dọn dẹp” thay vì người sáng tạo
- Thay vì dựa vào các kỹ thuật như hiệu đính nhiều phần hay yêu cầu phòng ngừa, ngành này ngày càng tăng cường lao động thanh lọc số dựa vào khả năng đánh giá ngữ cảnh, cảm xúc và tính xác thực của con người để nâng chất lượng đầu ra
- Kết quả là, trái với lời hứa thay thế việc tuyển dụng người sáng tạo gốc, AI lại tạo ra chi phí mới cho việc chỉnh sửa đầu ra của AI cùng với rủi ro kiệt sức
- Giải pháp gốc rễ nằm ở việc làm rõ vai trò của AI như một công cụ thông qua thiết kế human-in-the-loop và tái thiết lập tiêu chuẩn chất lượng, đồng thời khôi phục văn hóa sản xuất lấy tính chân thực và tính toàn vẹn làm trung tâm
Nghịch lý của thời đại khi con người phải dọn dẹp vấn đề do AI tạo ra
- Trong khi AI thay thế rất nhiều việc làm, đồng thời cũng phát sinh tình huống thuê con người để dọn dẹp những đầu ra vô nghĩa và sai lệch do AI tạo ra (slop), từ đó hình thành một nhóm nghề nghiệp mới
- Nhà thiết kế, nhà văn, nghệ sĩ số và nhiều người khác đang được đưa vào công việc sửa chữa và cải thiện các đầu ra thiếu chính xác do AI tạo ra, thay vì trực tiếp sáng tạo
AI SLOP LÀ GÌ
- AI slop là một dạng tiến hóa của spam, chỉ nội dung đại trà chất lượng thấp có vẻ ngoài hấp dẫn nhưng thiếu sáng tạo, ý nghĩa và độ tin cậy
- Các công cụ như ChatGPT, Midjourney khiến nội dung chất lượng thấp được tạo ra hàng loạt
- Nó lan rộng dưới nhiều hình thức như bài đăng mạng xã hội, ebook trên Amazon, nhạc trên Spotify, bài báo, thậm chí cả hình ảnh trong tạp chí học thuật
- Những nội dung này nhìn qua có vẻ thuyết phục nhưng thiếu ý nghĩa, tính độc đáo và độ tin cậy, giống như “calo rỗng”
- Khi giá thành của video AI giảm xuống, video slop cũng bùng phát, với nhiều ví dụ viral siêu thực như video mòng biển đập vỡ kính ô tô được ghi nhận
- Các video phong cách CCTV quay cảnh thỏ nhảy trên bạt lò xo cũng thường xuất hiện lỗi như hai cái đầu hoặc biến mất giữa chừng
- Ngay cả trong quảng cáo doanh nghiệp, hiện tượng méo văn bản cũng xuất hiện, với các trường hợp như lỗi logo Coca-Cola thành “Coca-Coola”
TÁC HẠI CỦA “AI SLOPOCALYPSE”
- AI sản xuất hàng loạt bài viết, đánh giá và bài đăng chất lượng thấp nhưng có vẻ thuyết phục, qua đó đẩy nhanh sự sụp đổ niềm tin trong cơn lũ thông tin
- Nó vượt khỏi enshittification của kinh doanh trực tuyến để mở rộng thành enshittification của văn hóa
- Nghệ thuật, âm nhạc, video, sách và bài đánh giá vốn do các nhà sáng tạo tạo ra đang bị AI tái chế và tái sản xuất, làm suy giảm chính nền văn hóa
- AI cũng tiêu tốn lượng điện và nước khổng lồ để tạo ra đầu ra, làm tăng gánh nặng môi trường
- Việc vận hành các mô hình lớn với mức tiêu thụ điện và tài nguyên nước cao làm gia tăng chi phí môi trường, đồng thời gây ra thất vọng và kiệt sức cho những người làm công việc thanh lọc
- Những sự cố như cuộc diễu hành Halloween ma ở Dublin năm 2024 cho thấy lỗi chính tả và câu cú rối rắm trong sản phẩm do AI tạo ra có thể gây hiểu lầm cho công chúng
- Trường hợp hình minh họa do AI tạo ra trong một bài báo bị rút của tạp chí Frontiers có thể xem là hồi chuông cảnh báo về sự ô nhiễm trong lĩnh vực học thuật
ĐỘI NGŨ DỌN DẸP RA TAY CỨU NGUY
- Trái với lời hứa về hiệu quả của thời đại AI, cấu trúc thực tế lại là con người gánh chịu những chi phí vô hình như dọn dẹp và kiểm soát chất lượng, khiến nhu cầu về nhân lực chuyên hậu kiểm và hiệu chỉnh tăng vọt
- AI content rewriter: viết lại nội dung do AI tạo ra bằng cách bổ sung ngữ cảnh, cảm xúc và quan hệ thực tế
- Art fixer: sửa các phần phi thực tế, lỗi chữ và những bất thường trong minh họa, logo, hình ảnh do AI tạo ra
- Code debugger: sửa lỗi và tối ưu mã chưa hoàn chỉnh do Copilot hoặc ChatGPT tạo ra
- Video polisher: nghệ sĩ VFX chỉnh sửa các lỗi vật lý hoặc sự thiếu tự nhiên trong video AI
- Phần lớn những công việc này không phải lao động hợp tác mà là lao động xoay quanh sửa chữa và hiệu chỉnh, không phải không gian để sự sáng tạo thực sự của con người được phát huy
- Trên Upwork, Fiverr, Freelancer và các nền tảng tương tự, nhu cầu đối với công việc sáng tạo và hiệu đính do con người dẫn dắt đang tăng lên
- Nghệ sĩ, nhà văn và nhiều người khác bị đẩy vào những công việc dọn dẹp đơn điệu như “lao công môi trường số”, khiến sự mất mát sáng tạo và tình trạng kiệt quệ ngày càng nghiêm trọng
Nghịch lý thật sự và lời giải
- AI từng có vẻ như sẽ thay thế con người, nhưng trên thực tế lại tạo ra một cấu trúc kép: con người được tuyển thêm làm lực lượng phụ trợ để bù đắp sự non nớt của AI
- Điều này hình thành một nền kinh tế song song nơi con người làm cho AI trở nên giống con người hơn, và kéo theo bi kịch khi một số người lẽ ra có thể trở thành người sáng tạo lại bị chuyển thành “người dọn dẹp”
- Vấn đề thực sự không nằm ở bản thân AI, mà bắt nguồn từ lựa chọn của con người khi ưu tiên tốc độ, sản lượng và giá thành hơn chất lượng
- Giải pháp không phải là từ bỏ AI hay nâng trí thông minh của AI, mà nằm ở cách con người sử dụng và can dự một cách khôn ngoan
- Cần tái định nghĩa AI như một công cụ kết hợp với sự sáng tạo đích thực và khả năng đồng cảm của con người
- Con người phải giữ vai trò trung tâm, và không nên để mọi thứ trôi theo cấu trúc trong đó con người phải liên tục dọn dẹp các vấn đề trong đầu ra do AI tạo ra
- Điều thực sự nguy hiểm là chúng ta trở nên quen với AI slop và quên mất giá trị sáng tạo của con người
- Lực lượng dọn dẹp hiện nay chỉ là giải pháp tạm thời; về dài hạn, cần hướng đến một tương lai công nghệ dựa trên sự sáng tạo và tính chân thực thực sự của con người
1 bình luận
Ý kiến trên Hacker News
Người ta từng nói AI sẽ thay thế con người, nhưng tôi nghĩ thực tế có hai hiện tượng đang diễn ra. Thứ nhất, AI đã không phổ cập hóa được lao động kỹ năng cao; thứ hai, văn hóa truyền thông đang bị pha loãng và xuống cấp. Với hiện tượng thứ nhất, tôi vẫn đang chờ thêm nhiều chỉ số như dữ liệu từ BLS. Còn hiện tượng thứ hai là, một thể loại nội dung mới đã xuất hiện, mang cảm giác giống chiptune hay meme "deep-fried"
Lao động kỹ năng thực sự, chẳng hạn như biên dịch viên, nhà thiết kế, copywriter, vẫn cần thiết từ cấp trung trở lên. Những người này sẽ không bị thay thế ngay lập tức, nên điều đó không hiện rõ trong thống kê chính thức. Thay vào đó, nhóm đang bị thay thế hoặc không còn được tuyển mới là thực tập sinh hay nhân sự junior. AI có thể xử lý khá nhiều phần việc ở mức đó, nhưng sự thay đổi này cũng không phản ánh rõ trong số liệu thất nghiệp chính thức. Chỉ có thể nhìn vào mức giảm của tin tuyển dụng, mà ngay cả điều đó cũng có thể do nhiều biến số như bất ổn kinh tế hay tình hình quốc tế. Cuối cùng, chỉ sau vài năm nữa, ngành media và sáng tạo sẽ bị hủy hoại hoàn toàn. Nếu AI chặn lối vào sự nghiệp, thực tập sinh sẽ biến mất, rồi đến junior, rồi dần dần cả cấp trung và senior cũng không còn. Cuối cùng chỉ còn lại mấy người mặc vest từng đụng vào Photoshop từ 15 năm trước và đội ngũ bán hàng
Tôi nghi ngờ liệu thống kê chính thức của BLS có còn đủ đáng tin hay không. Nghĩ đến cách Tổng thống Trump đã đối xử với cơ quan đó sau khi họ công bố số liệu thất nghiệp mà ông không thích thì tôi càng ít tin hơn
Cho tới nay, sự sáng tạo và khả năng diễn đạt của con người vẫn tiến gần đến tính cụ thể trong khi xử lý tốt tính ngẫu nhiên. Nhưng giờ đây, việc tự động hóa cái tính ngẫu nhiên đó, trong khi AI không được huấn luyện để đạt tính cụ thể, lại khiến mũi nhọn của sáng tạo bị cùn đi và những chi tiết thật sự tinh vi ngày càng xa vời hơn. Sự thoái hóa này đặc biệt rõ khi con người nhầm tưởng đầu ra của AI là hợp lý và chi tiết. Thật điên rồ, nhưng lại được công nghệ bình thường hóa
Chẳng có gì mỉa mai cả. Nhìn vai trò con người đứng lựa hàng lỗi trong nhà máy là thấy, vì đã từng có thời chính những người đó là các nghệ nhân trực tiếp làm ra sản phẩm ngay từ đầu
Trong nhà máy, hàng lỗi hiếm và dễ phân biệt. Chỉ cần vứt đi là xong, phần còn lại thì máy cứ tiếp tục làm. Nhanh hơn nghệ nhân rất nhiều. Nhưng với AI thì vấn đề là nó không lặp đi lặp lại một thứ giống hệt nhau, nên khó xác định lỗi; mà dù phát hiện ra lỗi cũng phải sửa thủ công từng cái, và rốt cuộc có thể vẫn phải vứt hết rồi làm lại từ đầu. Cuối cùng toàn bộ thời gian và công sức đổ vào AI đều bị lãng phí, trong khi giao cho nghệ nhân ngay từ đầu có khi còn tốt hơn
So với cách người ta quảng bá AI như cuộc đại cách mạng của vài thế kỷ gần đây thì đúng là quá hụt hẫng. Kết luận là chúng ta vẫn chưa bước vào kỷ nguyên AI
Khi đọc câu "con người đứng lựa hàng lỗi trong nhà máy", tôi nhớ tới một trang web của công ty outsourcing ở Ấn Độ nói rằng công nhân của họ không phải đang lựa hàng lỗi mà là làm công việc "dọn dẹp(clean up)". Nếu giả sử trong nhà máy phần lớn sản phẩm đều lỗi đến mức có thể dễ dàng nhận ra, nhưng thay vì vứt đi thì phải sửa hết, thì chi phí năng lượng của quá trình sản xuất sẽ cực kỳ lớn
Con người đi xử lý sai sót do con người tạo ra là chuyện phổ biến ở khắp nơi. Đặc biệt trong phát triển phần mềm thì còn nghiêm trọng hơn
Việc e-commerce là mặt trận đầu tiên bị AI thay đổi rõ rệt thật ra cũng không lạ. Phần lớn cửa hàng online chỉ có một đề xuất giá trị cốt lõi, còn phần trình bày thì không quá quan trọng. Miễn là nó không trông như trang chủ năm 2003 là được, và thật lòng mà nói thì hầu như chẳng ai quá bận tâm mặt tiền của một cửa hàng năm 2025 trông ra sao. Quảng cáo chỉ cần thu hút sự chú ý, chứ mục tiêu không phải là nghệ thuật. AI giỏi ở chỗ gì? Tạo ra thứ bình thường, đủ ổn để hầu hết mọi người nhìn vào đều thấy chấp nhận được. Thực tế thì nó rất nhạt nhẽo. Âm nhạc, hình ảnh, bài viết đều như vậy. Dĩ nhiên, những lỗi mang tính常识 như tranh vẽ người có tám ngón tay vẫn còn là bài toán chưa giải xong, nhưng nếu chỉ lướt qua bề mặt thì đầu ra AI hiện đã gần như khó phân biệt với đồ thật. Vì vậy ở thời điểm này, AI rất giỏi trong vai trò sản xuất "khuôn đúc". Trước đây Lorem Ipsum là văn bản mẫu, còn giờ nó tạo ra bộ khung dùng cho mọi phần. Việc của con người là thêm cá tính lên cái nền mà AI rải ra đó. Khi tạo ra thứ gì đó, lúc nào cũng cần rủi ro và quyết định. Trong những quyết định đó có gu thẩm mỹ, và ai đó phải chịu trách nhiệm cho nó. Không chỉ là sửa lỗi hiển nhiên, mà quan trọng hơn là quá trình tùy biến bộ khung đó cho phù hợp với từng tình huống
Giống câu thoại của Brad Pitt trong vai Rusty: "Hãy chỉ dùng từ ngữ của riêng cậu khi cậu có thể. Đừng khựng lại, cứ nhìn thẳng vào mục tiêu của mình. Hãy nói đủ cụ thể để không ai nhớ nổi. Hãy hài hước nhưng đừng trở nên lố bịch. Cậu phải tạo ấn tượng vừa đủ để người ta quên ngay khi cậu rời đi. Và điều thực sự quan trọng là... trong bất kỳ hoàn cảnh nào, tuyệt đối, tuyệt đối đừng..." (trích phim <Ocean's Eleven>)
Mua sắm và quảng cáo là lĩnh vực AI có thể phát huy giá trị thật sự. Tín hiệu phản hồi về thành công hay thất bại ở đây rất rõ ràng. Tất nhiên, phải biết cách tận dụng đúng những tín hiệu phản hồi đó; chỉ đem đầu ra LLM quăng bừa vào mọi chỗ thì không đủ
Rốt cuộc cũng chẳng khác mấy so với consultant truyền thống. Nó làm code gọn gàng hơn và tạo ra hiệu suất kiểu trên các job site. Không có gì quá mới. Ai cũng đã đoán trước được chuyện này
Cảm giác như vừa xuất hiện một vai trò kiểu quản lý cấp trung chuyên giám sát những nhân viên không biết học hỏi
Trước cả khi chạm được đến AGI mà AI từng hứa hẹn, có vẻ mọi người đã sắp phát điên hết rồi, giống kiểu slopocalypse trong truyện ngắn PKD "Sales Pitch". Sales Pitch (short story)
Điều mỉa mai nhất là ngay cả bình luận duy nhất dưới bài viết đó cũng là bình luận do AI viết
Tôi nghĩ chúng ta vẫn chưa bước vào thời đại AI. Có vẻ nó sẽ sớm đến thôi. Tôi không cảm thấy LLM có thể gọi là AI, còn machine learning thì thực dụng hơn. Trong tương lai, tôi không biết LLM sẽ tiến hóa tiếp hay sẽ lụi tàn
LLM là một ứng dụng của machine learning, nên hai bên có cấu trúc ảnh hưởng qua lại lẫn nhau. LLM không phải là AI đơn nhất như chúng ta tưởng tượng, nhưng chắc chắn nó đã tạo ra một cột mốc lớn trong lĩnh vực xử lý ngôn ngữ. Trước đây, xử lý ngôn ngữ tự nhiên từng là một trong những thước đo tiêu biểu của AGI. Cuối cùng chỉ còn là vấn đề thời gian; tôi nghĩ rồi sẽ xuất hiện những mô hình lớn đa cảm quan có thể hiểu và học từ cả năm giác quan của con người, đồng thời có khả năng tự cải biến. Thậm chí cũng có thể sẽ có những mô hình xử lý được cả các giác quan mới mà con người không có
Cứ như thể mỗi lần lại dời chuẩn đạt được ra xa thêm một chút
Chúng ta đã làm kiểu công việc này hàng chục năm rồi. Hơn 20 năm trước, tôi từng được thuê để sửa và huấn luyện các chương trình nhận dạng giọng nói hoặc OCR, còn bạn tôi thì làm công việc chỉnh lại geotag. Các hệ thống AI có lịch sử rất dài; thời kỳ đầu, con người trực tiếp nhét các quy tắc Prolog vào hệ thống, hoặc lập trình viên phải tự tay mã hóa từng quy tắc cho các chương trình như ELIZA hay Generalised Problem Solver