Startup được a16z đầu tư bị lộ việc quảng bá bằng tài khoản TikTok AI sau một vụ hack

• Một “phone farm” gồm 1.100 điện thoại thông minh đã bị hack, làm lộ hoạt động của các tài khoản quảng cáo do AI tạo ra đang vận hành trên TikTok
• Hệ thống này do startup Doublespeed vận hành, công ty đã nhận đầu tư từ a16z, và quản lý hàng trăm tài khoản mạng xã hội dựa trên AI để dùng cho việc quảng bá sản phẩm
• Hacker đã giành được quyền truy cập để kiểm tra việc phân bổ tài khoản, thông tin proxy và lịch sử tác vụ
• Hình ảnh và video nhân vật được tạo bằng AI đã được dùng để quảng bá nhiều sản phẩm như thực phẩm bổ sung, ứng dụng, máy massage, và có nhiều dấu hiệu cho thấy sản phẩm được quảng bá mà không gắn nhãn quảng cáo
• Hacker cho biết đã báo lỗ hổng cho công ty vào ngày 31 tháng 10, nhưng vẫn còn có thể truy cập backend và phone farm

---

Tổng quan vụ hack Doublespeed

• Hacker đã kiểm soát một phone farm gồm 1.100 điện thoại di động và làm lộ hoạt động của các tài khoản quảng cáo do AI tạo ra đang vận hành trên TikTok
  • Phone farm này do Doublespeed quản lý, dùng hơn hàng trăm tài khoản mạng xã hội được tạo bằng AI để quảng bá sản phẩm
• Vụ hack cho thấy tồn tại nhiều nội dung quảng bá không ghi rõ là quảng cáo
  • Các tài khoản này đã quảng bá sản phẩm dưới dạng AI influencer
• Hacker đã truy cập backend của công ty để kiểm tra mỗi quản lý PC đang điều khiển điện thoại và tài khoản TikTok nào
  • Máy chủ proxy, mật khẩu và cả hàng đợi tác vụ theo từng tài khoản đều bị lộ
  • Hacker cho biết có thể tự do điều khiển khoảng 1.100 smartphone, và chúng có thể bị lạm dụng cho tài nguyên tính toán hoặc spam

Cách quảng bá bằng AI influencer trên TikTok

• Trong hơn 400 tài khoản TikTok do Doublespeed vận hành, khoảng 200 tài khoản thực tế được dùng để quảng bá sản phẩm
• Nhiều bài đăng được tải lên trong trạng thái không gắn nhãn quảng cáo
• Một số tài khoản dường như đã trải qua quá trình “warm-up” để tích lũy hoạt động trước, nhằm trông giống người dùng thật
• Hệ thống mô phỏng kiểu sử dụng smartphone thực tế để tránh bị TikTok phát hiện hành vi không xác thực

Các ví dụ quảng bá cụ thể

• Một nhân vật phụ nữ trung niên do AI tạo ra kể về cơn đau cơ thể và liên tục xuất hiện cùng máy massage Vibit
• Một nhân vật AI được đặt bối cảnh là sinh viên UCLA chỉ trích ngành dược phẩm trong khi quảng bá thực phẩm bổ sung moringa Rosabella
  • Chữ trên nhãn chai sản phẩm được tạo ra dưới dạng vô nghĩa, làm lộ đây là ảnh AI
• Một số tài khoản còn dùng cả video do AI tạo để quảng bá các agency nội dung TikTok như Playkit

Cách hacker tiếp cận và phản ứng của công ty

• Hacker đã yêu cầu được ẩn danh vì lo ngại bị trả đũa, và cho biết đã báo lỗ hổng cho Doublespeed vào ngày 31 tháng 10
• Tại thời điểm bài báo được viết, hacker nói rằng họ vẫn có thể truy cập backend của công ty và hệ thống phone farm
• Doublespeed không phản hồi yêu cầu bình luận từ báo chí

Phản ứng của nền tảng và nhà đầu tư

• Doublespeed là startup nhận đầu tư từ Andreessen Horowitz (a16z)
• TikTok nêu rõ nghĩa vụ gắn nhãn đối với nội dung do AI tạo ra, và sau khi nhận được thông báo đã thêm nhãn cho các tài khoản liên quan
• a16z và Doublespeed không đưa ra lập trường chính thức về vụ việc
• Người phát ngôn của Reddit cho biết dịch vụ của Doublespeed vi phạm điều khoản sử dụng
• Meta không đưa ra phản hồi chính thức, nhưng mô hình kinh doanh này vi phạm chính sách thể hiện danh tính xác thực

[roxie]

Wow, đúng là kiểu kinh doanh như thế này thật...

[GN⁺]

Ý kiến trên Hacker News

• liên kết archive

• Về lâu dài, AI đang phá hủy mạng xã hội
  Ngay cả trước thời AI, đã có rất nhiều bài đăng và bình luận là của bot hoặc tài khoản trả phí
  Giờ thì Reddit đã trở thành một nơi còn kém đáng tin hơn cả ChatGPT
  Dù vậy, vẫn còn những không gian châm biếm kiểu The Onion-verse

  • Cảm giác như “Dead Internet Theory” đã chuyển từ trò đùa thành hiện thực
  • Tôi không nghĩ một cấu trúc nơi cả thế giới trò chuyện ngẫu hứng với nhau có thể tạo ra kết quả tích cực
    Con người yếu trước sự ẩn danh và môi trường thiếu giám sát, còn những diễn đàn như thế này thì khuếch đại tối đa điểm yếu đó
    Ngay từ đầu, ở quy mô hiện tại, đây đã không phải là một ý tưởng hay
  • Biết đâu đây lại là điều tốt
    Nếu ngày càng nhiều người rời bỏ những nền tảng này và quay lại với truyền thông chính thống, có khi họ sẽ lý trí hơn
  • Với tôi, Reddit đã là một nền tảng chết kể từ mùa hè này khi họ cho phép hồ sơ riêng tư
  • Tôi cũng nghĩ tương tự, nhưng điều đáng lo là mọi người dường như thích kiểu nội dung chất lượng thấp (sloppy content) này
    Không biết chỉ vì nó lạ mắt, hay thật sự họ muốn như vậy

• Thật kỳ quặc khi giờ chúng ta đang sống trong một thực tại mà trại bot (bot farm) đã trở thành chuyện thường ngày
  Trước đây người ta hay gắn chuyện này với các chế độ độc tài như Nga hay Trung Quốc, giờ chẳng lẽ chúng ta cũng đang trở thành như vậy?
  Hơn nữa, việc các quỹ VC lại đầu tư vào thứ này thật sự gây sốc
  Giờ mỗi lần nghe podcast của a16z, tôi lại nghĩ đến trại bot nên rất khó nghe tiếp
  Càng lúc tôi càng hoài nghi liệu mọi người có thật sự suy nghĩ về đạo đức và luân lý hay không

  • Dù vậy, tôi vẫn tin một tương lai theo kiểu web of trust dựa trên niềm tin là điều khả thi
    Chỉ là tôi chưa biết phải diễn đạt nó như thế nào

• Tôi nhớ đến câu “đừng tạo ra cỗ máy mang dáng dấp tâm trí con người”
  Cảm giác như Butlerian Jihad đã đến sớm hơn dự kiến
  Không phải áp bức hay bạo lực, mà là marketing lan truyền và tài khoản giả đang châm ngòi cho cuộc nổi dậy

  • Nhưng thực ra bạo lực đã bắt đầu rồi
    OpenAI đang phải đối phó với nhiều vụ kiện, vì có những trường hợp người dùng chatbot đã tự kết liễu đời mình

• Buồn cười thật. Vừa nãy tôi còn nói với ai đó rằng quảng cáo Vibit xuất hiện quá nhiều, và phần bình luận thì trông toàn là giả

• Nếu những gì bị lộ ra sau vụ hack rốt cuộc chỉ là startup đó đang làm đúng những gì họ nói là sẽ làm, thì tôi tự hỏi liệu đây chẳng phải chỉ là quảng cáo hay sao

• Xem Twitter của Zuhair và trang chính thức mà thấy thật ghê tởm
  Ảnh về phone farm của anh ta nằm cả trong tweet này
  “Tăng tốc dead internet” ư, tôi không hiểu vì sao chúng ta lại đang khuyến khích sự enshitification của không gian công cộng như thế này

  • Có vẻ anh ta chỉ đang nhắm đến ragebait, nhưng vấn đề là sản phẩm đó thực sự tồn tại
    Cory đã đúng ngay từ đầu
  • Anh ta trông như một thiếu niên thông minh nhưng đi sai hướng
    Không hẳn là người xấu, mà giống kiểu cần những hình mẫu tốt hơn
    Tôi nghĩ ai rồi cũng cần làm một việc gì đó sau này sẽ thấy xấu hổ thì mới có dịp tự nhìn lại
  • Liên kết dễ truy cập là xcancel.com/rareZuhair
  • Việc tạo ra công cụ như thế này rất nguy hiểm
    Một ngày nào đó nó có thể trở thành vũ khí quay ngược lại chính người tạo ra nó
  • Không có gì kỳ lạ cả, đơn giản chỉ là kết quả của lòng tham và ham muốn kiểm soát

• Đây giống một bản báo cáo đơn thuần cho thấy cách công ty đó vận hành việc kinh doanh của mình
  doublespeed.ai

  • Việc họ công khai dùng những câu như “never pay a human again”, “spawn variation” lại khiến mọi thứ thành ra khá mới lạ
    Tất nhiên là tôi ghét nó, nhưng ít nhất vẫn còn đỡ hơn những công ty khác chuyên dùng lớp vỏ marketing để đánh lừa người ta
  • Tôi cứ tưởng kiểu kinh doanh này là bất hợp pháp, hoặc ít nhất cũng nằm trong vùng xám nào đó, nhưng giờ có vẻ các quỹ VC đã vứt bỏ hoàn toàn đạo đức
    Cờ bạc? Được thôi. Spam? Chúng tôi đầu tư. Gian lận quảng cáo? Không thành vấn đề
  • Tôi tò mò không biết những trại nội dung AI như thế này kiếm tiền trên TikTok bằng cách nào
  • Rốt cuộc chính những tranh cãi này lại trở thành quảng bá miễn phí cho họ
  • Cảm giác như đang tận mắt thấy “lời quảng cáo của phản diện” ngoài đời thật

• Tôi thắc mắc vì sao người ta không kiện những công ty như thế này theo Đạo luật Computer Fraud and Abuse (CFAA)

  • Việc vung CFAA vào bất kỳ đối tượng nào mình không thích là rất nguy hiểm
    Đã có sẵn các luật xử lý kiểu marketing lừa dối như thế này
    Ví dụ: Bộ quy định liên bang Hoa Kỳ 16 CFR Part 255
  • Nhưng các công ty có tiền và mạng lưới chống lưng thì vẫn thoát được sự áp dụng của pháp luật
    Trong trường hợp xấu nhất, nghe nói dạo này lệnh ân xá (pardon) cũng không quá đắt