Sản xuất nội dung dựa trên AI và việc sử dụng tác giả giả của AdVon
- Các cây bút ở những nước đang phát triển làm việc theo hợp đồng cho AdVon Commerce, nhận vài cent mỗi từ để viết các bài đánh giá sản phẩm trực tuyến
- Vai trò của họ nhanh chóng chuyển thành chỉnh sửa các bản nháp do hệ thống AI mà AdVon đang phát triển, "MEL", tạo ra
- Các tác giả được yêu cầu để lại ghi chú chi tiết về công việc của MEL, và họ tin rằng những ghi chú này được dùng để tinh chỉnh AI cuối cùng sẽ thay thế chính họ
- Khi MEL "được huấn luyện đủ để có thể tự viết", các tác giả đã bị sa thải
- Một tác giả nói rằng mình "đã chịu đựng rất nhiều" và rằng "họ mang tính bóc lột"
Các trường hợp AdVon sử dụng tác giả giả
- Nhân viên của Gannett phát hiện trên trang web USA Today có các bài đánh giá sản phẩm đăng dưới những byline dường như không phải người thật
- Tại Sports Illustrated, AdVon cũng vận hành theo cách tương tự, dùng byline tác giả giả và ảnh hồ sơ do AI tạo ra
- AdVon không phủ nhận rằng các byline là giả và ảnh hồ sơ được tạo bằng AI, nhưng khẳng định các bài viết thực tế do con người thật viết
Việc đăng tải rộng khắp nội dung của AdVon
- Các tác giả giả và bài viết của AdVon được phát hiện rộng rãi, từ các trang tin đồn giải trí như Hollywood Life và Us Weekly đến những tờ báo tên tuổi như LA Times
- McClatchy đã chấm dứt quan hệ với AdVon và xóa hàng trăm bài viết của AdVon khỏi hơn 20 tờ báo, bao gồm Miami Herald và Sacramento Bee
- Trước đây, trang web của AdVon cho biết họ hợp tác với nhiều cơ quan truyền thông nổi tiếng như PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens và Southern Living
Video trình diễn tạo bài đánh giá bằng MEL AI của AdVon
- Một quản lý của AdVon cho thấy chỉ cần nhập tiêu đề bài viết và liên kết sản phẩm Amazon, MEL AI sẽ tạo ra toàn bộ từng chữ trong bài
- Công việc của MEL thường gượng gạo, mơ hồ và đôi khi còn tự mâu thuẫn
- Nếu đầu ra khó hiểu, người quản lý chỉ đơn giản yêu cầu tạo một phiên bản mới
- Người quản lý nói: "Mục tiêu của chúng tôi là làm cho nó không nghe như do robot viết"
Chất lượng thấp và những lỗi kỳ quặc trong các bài đánh giá của AdVon
- Các bài đánh giá của AdVon đầy nội dung đệm và những điều hiển nhiên, đôi khi còn chứa các lỗi kỳ quái đến mức khó tin là đã được con người xem xét nghiêm túc trước khi đăng
- Có những trường hợp chủ đề đột ngột đổi hướng không lời giải thích, như bài đánh giá đai tập tạ bỗng nói về thắt lưng quần áo, hoặc bài đánh giá lò vi sóng chuyển sang lò nướng thường
- Trong các bài đánh giá lò vi sóng khác của cùng một tác giả, những lỗi lạ tương tự cũng lặp lại, như nói rằng có thể dùng giấy bạc nhôm trong lò vi sóng
Gán tác giả giả và thay thế bằng byline của người thật
- Sau khi hoàn thành bài viết, việc gắn tên của một tác giả giả là vai trò của các nguồn nội bộ tại AdVon
- Sau khi nhân viên Gannett chỉ ra tác giả giả của AdVon trên USA Today, các tên giả bắt đầu biến mất và được thay bằng tên của những người có vẻ là thật, đặc biệt là những người có quan hệ cá nhân với CEO AdVon, Ben Faw
- Một byline mang tên Julia Yoo xuất hiện; cô dường như là vợ của Ben Faw và có hồ sơ quá hào nhoáng so với các nhân viên khác của AdVon, bao gồm bằng MIT, từng là lãnh đạo tại Autodesk và từng làm cố vấn kinh tế Nhà Trắng dưới chính quyền Obama
- Một byline tên Denise Faw cũng xuất hiện, và bà dường như là mẹ của Ben Faw
Các bài đánh giá tài trợ của AdVon thông qua SellerRocket
- CEO AdVon Ben Faw và chủ tịch Eric Spurling còn điều hành một công ty khác là SellerRocket, nơi họ nhận tiền quảng bá từ người bán sản phẩm trên Amazon để AdVon đăng các bài đánh giá lên chính những cơ quan truyền thông đó
- Nhân viên của SellerRocket giải thích rất thẳng thắn trong các video YouTube về cách kế hoạch này vận hành
- Sản phẩm của khách hàng SellerRocket được đánh dấu bằng một "biểu tượng tên lửa nhỏ dễ thương" trong CMS của AdVon và "luôn được ưu tiên"
Sự nghiệp và cách làm ăn của CEO AdVon Ben Faw
- Faw có một sự nghiệp hào nhoáng, nhưng theo các đồng nghiệp cũ, ông ta liên tục tìm cách kiếm nhiều tiền hơn từ nội dung chất lượng thấp
- Người ta nói Faw "hoàn toàn khinh thường người tiêu dùng" và "chỉ quan tâm đến việc tìm cách nhanh và rẻ để kiếm thêm tiền cho bản thân"
- Faw cố tác động đến việc đưa tin bằng cách nhấn mạnh các mối quan hệ cá nhân và kinh doanh của mình với lãnh đạo cấp cao tại công ty mẹ của Futurism
Những thay đổi và mâu thuẫn trong tuyên bố của AdVon
- Ban đầu AdVon phủ nhận việc dùng AI, nhưng khi có bằng chứng video về các bài đánh giá do AI tạo ra, họ thừa nhận có dùng AI với một số khách hàng
- Lịch sử chỉnh sửa bài viết do AdVon cung cấp không thuyết phục vì tốc độ viết quá nhanh để có thể trông như do con người viết
- AdVon khẳng định MEL AI chưa hoạt động cho tới năm 2023, nhưng hồ sơ LinkedIn của nhân viên bác bỏ điều đó
- AdVon nói họ không sa thải tác giả do chuyển sang AI, nhưng số lượng tác giả trên LinkedIn dường như đã giảm mạnh
Phản ứng của độc giả với nội dung AI và xu hướng của ngành
- Trong một cuộc khảo sát ngay sau vụ tác giả giả của Sports Illustrated, 80% người trả lời nói rằng việc này nên bị coi là bất hợp pháp
- Báo chí là ngành dựa trên niềm tin, nhưng trong mê cung tác giả giả và các đe dọa pháp lý của AdVon, ngay cả những câu hỏi cơ bản như tác giả có phải người thật hay AI có tạo ra bài viết hay không cũng trở nên khó tin cậy
- Một số cơ quan truyền thông đang tìm cách sử dụng AI một cách trung thực, nhưng phần lớn các thử nghiệm đều lúng túng vì lỗi và khả năng đạo văn
- Trong kịch bản tệ nhất, AI có thể cho phép những kẻ lừa đảo sản xuất hàng loạt nội dung chất lượng thấp ở quy mô chưa từng có, đe dọa phủ spam lên toàn bộ web
- Việc các công ty như AdVon dùng AI để tung ra nội dung tệ hại rồi đẩy tác giả ra ngoài không có gì đáng ngạc nhiên, nhưng việc các cơ quan truyền thông đáng tin cậy phân phối nó là bi kịch của thời đại AI
1 bình luận
Vậy thì có lẽ giải pháp duy nhất thật sự sẽ là bắt buộc tạo tài khoản bằng xác thực danh tính dựa trên mã số định danh riêng được cấp cho từng người như ở Hàn Quốc hay Trung Quốc sao.... Đáng sợ thật