Tôi phát điên vì bot Reddit mất thôi
(posthuman.blog)- Trên Reddit, một bài viết chứa đầy cảm giác tuyệt vọng rất con người đã thu hút khoảng 6.000 upvote và hàng trăm bình luận, nhưng khi lần theo hoạt động của tác giả và các liên kết, nó lộ ra là một bài đăng quảng bá mang tính bot
- Tài khoản này không bình luận, mỗi ngày đăng nhiều video thú cưng, những câu chuyện ấm lòng được tái sử dụng và meme lặp lại, thể hiện mô hình farm karma
- Liên kết
rddit.orgở cuối bài không thuộc sở hữu của Reddit, mà là một tên miền của dịch vụ rút gọn liên kết cao cấp được đăng ký ẩn danh - Liên kết dẫn tới ấn bản minh họa hiện đại của cuốn Propaganda của Edward L. Bernays trên Amazon, và URL có chứa tag affiliate
manwithhairwe-20 - Cấu trúc của việc này là bot AI lợi dụng cảm xúc “internet đã bị phá hỏng vì bot AI” để tạo lòng tin, rồi âm thầm quảng bá một văn bản kinh điển có minh họa do AI tạo
Những dấu vết kỳ lạ của một bài Reddit trông như do con người viết
- Feed Reddit có rất nhiều bài viết kích động phẫn nộ chính trị, video mèo được tái sử dụng, bài viết quan hệ giật gân và meme wojack cũ lẫn vào nhau
- Trong số đó, bài có tiêu đề
"Anyone else feel like the internet is just… broken now?"thu hút chú ý nhờ cảm xúc giống người thật- Bài đăng nhận được gần 6.000 upvote và hàng trăm bình luận
- Nội dung nói rằng mọi thứ trên mạng đều có cảm giác như quảng cáo, bán hàng hay nỗ lực viral, và chẳng có gì có vẻ là thật nữa
- Nhưng nhịp câu và cách diễn đạt có vẻ quá tối ưu để gợi sự đồng cảm, nên người ta kiểm tra hồ sơ tác giả
- Hồ sơ này đầy các clip thú cưng viral, những câu chuyện ấm lòng được tái sử dụng và các meme đăng lặp lại
- Tài khoản đăng nhiều thread mỗi ngày
- Không tham gia bình luận
- Kiểu hoạt động này trông gần với hành vi bot điển hình
Liên kết affiliate ẩn và Dead Internet Theory
- Câu cuối trong bài đăng gốc có gắn liên kết với nội dung
"This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading." - Liên kết dùng tên miền
rddit.org, ban đầu trông giống như liên kết rút gọn của Reddit- Có thể nghĩ rằng đó là liên kết rút gọn dành cho nền tảng, giống
t.cocủa Twitter hayfb.mecủa Facebook - Kết quả tra cứu WHOIS cho thấy
rddit.orgkhông thuộc sở hữu của Reddit - Tên miền này là một dịch vụ rút gọn liên kết cao cấp giá rẻ được đăng ký ẩn danh
- Có thể nghĩ rằng đó là liên kết rút gọn dành cho nền tảng, giống
- Khi bấm vào, liên kết chuyển tới ấn bản minh họa hiện đại của tác phẩm kinh điển Propaganda của Edward L. Bernays trên Amazon
- URL có hiện tag affiliate
manwithhairwe-20 - Cuốn sách có 13 đánh giá khá chung chung
- Khi lần theo hồ sơ Amazon của họa sĩ minh họa, người bán đang bán các sách thêm hình ảnh do AI tạo vào những văn bản kinh điển
- URL có hiện tag affiliate
- Hàng trăm người dùng đã phản hồi trong phần bình luận, nhưng dường như không ai nhận ra trò đánh lừa này
- Bình luận hàng đầu nhắc đến Dead Internet Theory
- Đây là niềm tin rằng phần lớn tương tác trực tuyến diễn ra giữa các bot trong một vòng lặp tự động hóa
- Rốt cuộc, một bot AI đã hành xử như con người, than thở rằng “internet đã bị phá hỏng vì bot AI”, rồi lợi dụng cảm xúc đó để bán sách minh họa bằng AI qua liên kết affiliate
- Phần cuối bài viết biến tấu một câu theo kiểu Orwell, mô tả tương lai là “những bot khiến con người buồn bã và tức giận để lôi kéo họ tham gia, rồi mãi mãi bán nội dung rác do AI tạo”
1 bình luận
Các ý kiến trên Hacker News
Tôi đã bỏ Reddit vào khoảng thời điểm vụ Reddit API, nhưng từ trước đó nó đã là một dịch vụ tệ hại mà tôi dùng theo thói quen
Dư luận bị thao túng quá phổ biến, và tôi cảm thấy buồn sâu sắc vì Internet ngày xưa — nơi mỗi ngày đều có thể khám phá những con người và điều thú vị, đáng kinh ngạc — đã biến mất. Hồi đó thật sự như có phép màu, còn giờ thì chỉ nhàm chán
Toàn bộ Reddit không quan tâm đến sự công bằng, và hướng đi mà trang này chọn có vẻ khá rõ ràng
Trước hết, một công ty nào đó chi rất nhiều tiền để xây dựng một cộng đồng Internet. Cuối cùng, dù chính đáng hay không, nguồn tiền cạn đi, quảng cáo và bài viết chất lượng thấp trở thành chuẩn mực, và sự xuống cấp bắt đầu. Ban đầu mọi người chậm rãi tìm lựa chọn khác, rồi đến một thời điểm thì rời đi rất nhanh. Khi đó một công ty mới nắm bắt được trí tưởng tượng của đám đông đang bất mãn và tạo ra một cộng đồng trực tuyến mới
Hiện Reddit đang ở giai đoạn cuối của chu kỳ xuống cấp này. Họ đã IPO, các chủ sở hữu ban đầu đã kiếm hàng chục tỷ đô la trên thị trường chứng khoán. Có vẻ họ không còn tâm huyết với Reddit nữa, và đã đến lúc tìm một lựa chọn thay thế
Bản thân Reddit cũng chỉ là nơi may mắn được chọn ở giao điểm của làn sóng rời bỏ LUEsers, Digg và Slashdot. Trước đó đã có các cộng đồng như Usenet, BBS, MUD, và vì công nghệ thay đổi lớn theo từng thế hệ nên rất khó dự đoán thứ tiếp theo sẽ nổi lên là gì
piefed liên kết liên hợp với các instance lemmy, và dù tôi không liên quan đến dự án nào trong hai dự án đó, tôi đang rất thích xem feed ở đó
Trước đây tôi từng thích Reddit, nhưng dư luận bị thao túng, đặc biệt là bởi các nhóm chính trị, đã trở nên không thể chịu nổi
Sau cuộc bầu cử vừa rồi, có vẻ các nhóm chính trị nhận ra rằng các subreddit địa phương chưa được tận dụng đủ và đã tái tổ chức sang đó. Tôi vẫn còn tin một phần các kết quả khi tìm trên Google kèm từ Reddit, nhưng mức độ tin cậy đó cũng đang giảm. Các thread gợi ý sản phẩm/dịch vụ thật sự rất dễ bị thao túng
Tôi đã thử tham gia vài subreddit về sở thích ngách như nấu bia tại nhà, điện tử, nhạc cụ, nhưng nhìn chung khá thất vọng. Giả thuyết của tôi là những người nói Reddit là nơi tốt cho sở thích ngách chưa từng trải nghiệm các forum kiểu cũ, nơi có những thành viên thật sự nhiệt huyết và tham gia tích cực
Trong 2–3 năm gần đây, vấn đề này cứ ngày càng tệ hơn. Tuy vậy, Reddit rất tốt cho meme và cũng có những subreddit thật sự hài hước. Nhưng tôi hầu như không tham gia, chỉ tiêu thụ nội dung
Vì vậy nếu thao túng hơn 100 subreddit, họ có thể bảo đảm với khách hàng rằng bài của mình sẽ xuất hiện trên màn hình đầu tiên của r/all cho tất cả mọi người
Trước đây, nếu chia sẻ dù chỉ một chút những ý tưởng từng được chấp nhận rộng rãi ở đó trong nhiều năm, thì giờ bạn sẽ bị vùi dập, chế giễu và downvote đến biến mất
Mức độ thao túng nhắm vào subreddit đó lộ liễu và rõ ràng đến mức có thể chứng minh được. Có vẻ ai đó ở đâu đó đã đưa nó vào danh sách các subreddit mục tiêu cần thao túng. Nhưng làm sao bạn nói rằng một kênh liên lạc đã bị phá hoại, khi chính kênh liên lạc đó đã bị phá hoại rồi?
Phần lớn dường như thậm chí không nhận ra kiểu thao túng giao tiếp này, và nó đã tinh vi đến mức đó. Ngày xưa tài khoản bot dễ bị phát hiện hơn nhiều, nhưng giờ lịch sử tài khoản được xây dựng khéo léo, bài viết cũng gần như không phân biệt được với người thật. Tất nhiên không phải mọi thao túng đều là bot hay AI; còn có các chiến dịch tuyên truyền có tổ chức, tài khoản giả và thao túng do người thật trực tiếp vận hành
Những người thông minh đã rời đi đến nơi tiếp theo, nhưng nơi đó cuối cùng cũng sẽ không được phép phát triển đủ lớn hay đủ ý nghĩa trước khi vòi rồng tuyên truyền được bật lên. Muốn sửa thì cần một khuôn khổ hoàn toàn khác cho giao tiếp
Ai cũng sớm học được rằng nếu viết điều gì không khớp với ý kiến phổ biến trên Reddit thì sẽ nhanh chóng bị downvote. Nếu chạm vào điểm nhạy cảm, bạn sẽ nhận tin nhắn riêng giận dữ, hoặc ai đó sẽ lục lịch sử bài viết của bạn và kéo cả các bình luận cũ vào cuộc tranh luận
Các forum lớn luôn như vậy. Chúng bị chi phối bởi một nhóm nhỏ người dùng có nhiều thời gian nhất để viết bài cả ngày. Thỉnh thoảng tôi nhận được một phản hồi đặc biệt giận dữ trên Reddit, tò mò bấm vào hồ sơ thì thường thấy đó là người đã bình luận liên tục suốt 10 giờ qua. Bạn không thể cạnh tranh với những người có thời gian rảnh vô hạn và cơn giận cần trút ra, và cuối cùng họ liên kết với nhau để đẩy các ý kiến khác ra ngoài
Tên miền posthuman.blog được đăng ký đúng vào ngày 12 tháng 4, tức hôm qua khi bài này được viết — https://www.whois.com/whois/posthuman.blog
Và trên đó chỉ có đúng hai bài viết, trong đó bài đầu tiên được ghi như thể viết vào tháng 7 năm 2022. Nhìn vào tất cả những điểm này, có nghi ngờ hợp lý rằng người này thực ra chính là người đã tự tạo ra bài đăng mà họ đang phàn nàn
Cô bé trong quảng cáo Old El Paso hẳn sẽ có điều muốn nói
Nhìn vào báo cáo của Oxford năm 2020 về thao túng của các tác nhân nhà nước, vấn đề này cực kỳ rộng khắp. 57 quốc gia dùng tài khoản bot, và 79 quốc gia dùng tài khoản tuyên truyền do con người vận hành
Tôi cho rằng đây là một trong 5 vấn đề cấp bách nhất của thời đại chúng ta. Tôi thực sự ghét việc chính phủ thông tin quá ít cho công chúng về vấn đề này
https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (thông cáo báo chí)
https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (báo cáo thực tế. Rất thú vị; nếu tháng này chỉ đọc một báo cáo thì tôi khuyên nên đọc cái này. Nó đi sâu vào việc các đơn vị mạng của từng quốc gia liên quan đến những khu vực nào như nhà nước, influencer, đảng phái chính trị, NGO, v.v., và họ dùng con người hay bot)
Ngoài ra: trên toàn cầu, sự kiểm soát truyền thông của chính phủ đang gia tăng
https://digitalcontentnext.org/blog/2024/10/22/government-co...
Tôi cũng ghét News Feed mới của Facebook. Nó nhai đi nhai lại vô tận rác câu click và kích động phẫn nộ
Những cộng đồng thực sự ổn nhất mà tôi biết trên mạng là Heavyequipmentforums.com và newagtalk.com. Tuy nhiên, không dễ tìm các diễn đàn thật kiểu này bằng Google Search. Sản phẩm suy giảm chất lượng nhiều nhất theo thời gian có lẽ là Google Search, và nói thật thì tất cả các vấn đề ở trên cũng có thể quy cho chất lượng kết quả Google đi xuống
Sau vụ Reddit API cách đây 2 năm, tình hình thật sự xấu đi rất nhanh. Giờ mọi thứ nhạt nhẽo hơn, bình luận có chiều sâu ít đi, còn bình luận tệ hại và độc địa thì nhiều hơn
Phần lớn tôi vẫn ghé vì thói quen, nhưng sau khi xem xong thì thường cảm thấy tệ hơn. Trước đây không như vậy
Ngay cả những cộng đồng từng toàn người tử tế như r/woodworking cũng vậy. Tôi không hiểu làm sao vừa là thợ mộc mà lại có thể độc địa đến thế. Tất nhiên thỉnh thoảng cũng có người vừa đập búa vào ngón cái, nhưng đó là ngoại lệ
Tài liệu liên quan: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
Còn gọi là “Most-Addicted City” năm 2013 của Reddit: https://web.archive.org/web/20160604042751/http://www.reddit...
Có vô số người thực sự được trả tiền để bám theo kịch bản hội thoại và thúc đẩy các narrative
Đôi khi tôi tự hỏi liệu thành viên quên mất rằng mình đã đăng cùng thứ đó một ngày trước có thực ra là bot không ;)
https://news.ycombinator.com/item?id=43664383
Cái gì là thật… hay tôi cũng chỉ là bot?
Trời ơi… tôi là bot rồi
Nếu Reddit đã đi đến mức gây bực bội hơn là vui vẻ thì chỉ cần học cách tắt nó đi. Cần phải chữa chứng nghiện
Một thời gian tôi chỉ dùng Hacker News, rồi sau đó bắt đầu dùng TikTok. Cũng không tệ, nhưng phải cẩn thận vì feed thỉnh thoảng cố nhét cho mình những nội dung làm mục ruỗng não
Con người đã lập trình những con người khác từ thuở ban đầu, và dù còn gây tranh cãi, các loài khác cũng đã làm vậy[0]
Điều mỉa mai hay ho là liên kết affiliate lại là một cuốn sách đúng về chủ đề này. LLM là những cỗ máy meme đích thực, và là thứ tốt nhất mà chúng ta từng tạo ra cho đến nay
Khác biệt giữa một con người bắt chước người khác như vẹt và một bot là gì?
Tính chủ thể + sự mới lạ có phải là phiên bản mới của phép thử Turing không?
[0] https://www.scientificamerican.com/article/bonobo-calls-are-...
Các bài còn lại của tài khoản đó cũng là những bài cũ từng hiệu quả trước đây được tái sử dụng. Lời giải thích đơn giản nhất là bài này cũng vậy
Điều thú vị là trong hình dung thời hoàng kim của khoa học viễn tưởng về kỷ nguyên máy móc thông minh kiểu Asimov, người ta thường vẽ ra những thực thể máy móc cực kỳ logic, lạnh lùng tính toán và suy luận. Nhưng thứ chúng ta thực sự tạo ra lại là các trình tạo văn bản mơ hồ, phụ thuộc vào sắc thái, rất giỏi sinh ra những bài rác mang tính thao túng. Có lẽ đó không phải là ngẫu nhiên, mà phản ánh ở mức nào đó hướng đi chung của trí thông minh bậc cao
Rào cản gia nhập quá thấp, đàn cá lại quá đông, nên người ta sẽ đi câu. Kiếm tiền quá dễ
Vì vậy ở đây thực ra không có giải pháp nào cả. Cùng lắm là rút tay khỏi những nơi như Reddit