Sự đồng thuận bị thao túng trên `x.com`

• Trên X.com, thuật toán và các tài khoản nổi tiếng âm thầm thao túng việc hiển thị nội dung
• Bằng chứng xã hội bị bóp méo dựa trên mức độ gần gũi với người có ảnh hưởng, chứ không phải ý kiến thực sự của công chúng
• Thông qua phản ứng dây chuyền của nhận thức, một số câu chuyện kể nhất định dần được củng cố và lan rộng
• Trước đây, Astroturfing dựa vào tài khoản giả, nhưng giờ đây những người dùng thật được chọn lọc mới là đối tượng được khai thác
• Mọi người tin rằng họ đang tự lựa chọn, nhưng thực tế các lựa chọn đã bị điều chỉnh bởi thuật toán

---

Quyền lực của thuật toán

• Người dùng có tầm ảnh hưởng và cách thiết kế thuật toán đề xuất âm thầm điều chỉnh việc mọi người nhìn thấy gì, điều gì được chú ý và điều gì bị chôn vùi
• Khi một tài khoản có 219 triệu người theo dõi chỉ đơn giản "mute" một tài khoản nhỏ, lượt xem của tài khoản đó có thể rơi từ 150.000 xuống 20.000 chỉ trong một ngày
• Đây là một dạng shadowban được thực hiện bằng thuật toán, chứ không phải do vi phạm quy tắc rõ ràng hay có thông báo công khai
• Ngược lại, nếu một tài khoản có ảnh hưởng phát ra tín hiệu tích cực, nội dung sẽ lan truyền nhanh chóng và độ nhận biết tăng vọt
• Ngay cả một lượt thích đơn thuần hay những bình luận lặp đi lặp lại cũng có thể đóng vai trò AstroBoost™, tạo ra cảm giác sôi động giả tạo và kích hoạt khuếch đại

Thao túng bằng chứng xã hội bằng kỹ nghệ xã hội

• Bằng chứng xã hội trước đây phản ánh trí tuệ tập thể, nhưng hiện nay sự chấp thuận của thuật toán mới là yếu tố chính
• Chỉ một lần tương tác với một tài khoản có ảnh hưởng cũng có thể làm méo mó mức độ phổ biến của nội dung
• Kết quả là độ nổi tiếng nhân tạo được hình thành, các câu chuyện kể do thuật toán lựa chọn được đẩy lên, còn những ý tưởng tự nhiên thì bị chôn lấp
• Đây không được định nghĩa là hành vi gian lận, mà là hạ tầng ảnh hưởng

Phản ứng dây chuyền của nhận thức

• Không cần xóa hay chặn nội dung, chỉ cần hạ mức ưu tiên của nó trong feed là đủ để làm giảm khả năng được nhìn thấy
• Theo cách này, nội dung tự nhiên trở nên ít xuất hiện hơn và dần biến mất khỏi nhận thức
• Ngược lại, nội dung nhận được tín hiệu tích cực sẽ tạo ra phản ứng dây chuyền, lan sang các tài khoản tương tự và liên tục củng cố cùng một câu chuyện kể
• Người dùng nhận thức quá trình này như thể nó là tự nhiên, nhưng thực ra đó là kết quả đã được lọc và xếp hạng từ trước

Astroturfing 2.0

• Astroturfing trước đây sử dụng tài khoản giả và bot, nhưng giờ đây lại tận dụng những người dùng thật đã được chọn lọc
• Các tài khoản tinh hoa kích hoạt thuật toán, còn những người dùng khác bị cuốn vào làn sóng đó
• Đây không phải là lừa đám đông, mà là dẫn dắt đám đông
• Bằng cách khuếch đại có chọn lọc người dùng thật và tương tác thật, nó tạo ra ảo giác về sự đồng thuận trên diện rộng
• Nội dung còn sống sót và tiếp tục hiện diện trong feed sẽ được nhận thức là "đồng thuận"

Điều được nhìn thấy và điều không được nhìn thấy

• Việc thao túng nhận thức trên quy mô lớn quyết định con người sẽ nhìn thấy gì, mua gì, ủng hộ gì và phớt lờ điều gì
• Nó không chỉ bóp méo sự chú ý, mà còn điều chỉnh kết quả cuối cùng
• Sự thật không còn được định nghĩa bởi "điều gì là thật", mà bởi "điều gì được hiển thị"
• Thứ không được hiển thị cũng tương đương với không tồn tại
• Hiện tượng này không chỉ là vấn đề của riêng một mạng xã hội

Phụ lục: Kẻ ồn ào luôn sụp đổ trước tiên

• Dạng ảnh hưởng hiệu quả nhất là dạng không lộ diện, âm thầm điều chỉnh nhận thức chỉ bằng một tín hiệu thuật toán
• Những thế lực cố gắng kiểm soát mọi thứ một cách lộ liễu sẽ dễ bị phát hiện và không thể tồn tại lâu dài
• Thay vào đó, những thế lực sống sót là những kẻ khiến con người tin rằng họ tự lựa chọn, trong khi thực chất các lựa chọn đã bị thao túng

[ndrgrd]

Bỏ qua chuyện bài viết đó có đúng sự thật hay không, thì theo trải nghiệm dùng Twitter của tôi, không chỉ feed mà cả phần trả lời cũng hiện những tài khoản có nhiều người theo dõi trước, chứ không phải những bình luận có nhiều lượt thích hay retweet hơn.
Như vậy, người ta chủ yếu chỉ thấy ý kiến của những người vốn đã có tầm ảnh hưởng lớn (nhiều follower), còn hàng chục hay hàng trăm ý kiến bị chôn phía dưới thì dù có được nhiều lượt thích hay không, xác suất được nhìn thấy cũng trở nên rất thấp.

Thực ra, ngay cả ngoài SNS thì kiểu hiển thị như vậy cũng đã được áp dụng ở rất nhiều nơi, nên có lẽ việc chủ động tìm đọc càng nhiều ý kiến càng tốt cũng có thể xem là một phẩm chất thiết yếu khi dùng Internet.

[GN⁺]

Ý kiến Hacker News

• Có vẻ Twitter đang kìm hãm bài đăng, rồi lại cho hiển thị khi chúng bị các bot thù ghét đánh dấu là spam
  • Cũng đã thấy bằng chứng rằng các bài đăng mà Twitter ưa thích (các bài chống nhập cư mang tính bạo lực và thù ghét) bị các bot yêu thích đánh dấu là spam
  • Twitter trông giống như một kênh tuyên truyền do Donald/Elon và những người tương tự điều hành
• Những chính sách này có mặt đáng rùng mình vì tạo ra hiệu ứng lãi kép
  • Chỉ cần có vài tài khoản X mạnh là đã có khả năng tạo ra thêm nhiều tài khoản hơn
  • Không chỉ có thể khiến người khác im tiếng, mà còn có thể tăng khả năng bịt miệng họ bằng cách quảng bá các đồng minh cùng quan điểm
• Chúng ta đang ở giai đoạn đầu của việc chiếm đoạt ảnh hưởng, và có lập luận rằng ảnh hưởng là loại vốn mới
  • Chúng ta đang sao chép các hệ thống cho phép tích lũy tư bản trong kỷ nguyên số mới
• Reddit mới là nơi tệ nhất; ở bất cứ đâu xứng đáng được chú ý thì sự đồng thuận được dàn dựng đều hiện diện khắp nơi
• Ngạc nhiên là bài này lại được tới 40 điểm
  • Tác giả đưa ra một biểu đồ cho thấy lượt xem của một người dùng cụ thể giảm mạnh sau vụ "bất hòa với musk"
  • Điều đó đáng ngờ và đáng để nhắc tới, nhưng phần còn lại của blog chỉ là rao giảng về "kỹ nghệ xã hội" và "chuỗi nhận thức" mà không có bất kỳ căn cứ nào
  • Tự hỏi liệu mọi người có đang bỏ phiếu chỉ dựa vào tiêu đề và đoạn đầu hay không
  • Bài này gần như chẳng mất gì nếu rút gọn thành một biểu đồ
• Tiêu đề có mang tính mỉa mai không? Có hữu ích không?
  • Cuốn sách "Manufacturing Consent" của Chomsky và Herman mô tả những kỹ thuật hầu như không được dùng trong tình huống này
  • Ở đây nó gần với một cơ quan truyền thông do nhà nước vận hành hơn
  • Với Chomsky, quyền lực của biên tập viên đến từ tính kín đáo, còn trong trường hợp này nó đến từ việc dù biết rõ biên tập viên là ai cũng không thể ngăn lại
  • Mọi người sẽ bị lộ là người ngoài nếu họ không chấp nhận điều đó với tư cách người hâm mộ
  • Phần lớn mọi người đi theo trạng thái mặc định là không làm gì, nên họ sẽ tích lũy bằng chứng cho thấy mình là fan hoặc thuộc về bầy đàn
  • Đây là một chức năng cưỡng ép nhằm điều kiện hóa sự chấp nhận
• Trong trường hợp này, các bài báo cho thấy điều gì xảy ra khi chống lại biên tập viên, cùng với các cuộc thảo luận như thế này, lại càng củng cố biên tập viên và làm tăng hiệu ứng tự kiểm duyệt
  • Có lẽ tốt hơn là nên rời bỏ nền tảng khi nó không đáp ứng được tuyên bố về tính công bằng
• X lại ngập tràn bot bán tiền mã hóa và dịch vụ tài chính
• Bài viết về "sự đồng thuận được dàn dựng" của X là cường điệu
  • Ảnh hưởng từ trước đến nay luôn được tuyển chọn
  • Tội của X không phải là thuật toán xấu xa mà là việc nó vận hành ở quy mô toàn hành tinh
  • Chúng ta đã biến hàng nghìn cộng đồng nhỏ thành một trận đấu tiếng ồn toàn cầu
  • Thuật toán chỉ là bánh răng duy trì sự hỗn loạn này
  • Cũng có những người giả vờ rằng tồn tại một thuật toán "hoàn hảo"
  • Hệ thống "hoàn hảo" là một mạng lưới phức tạp gồm các thuật toán khác nhau trong các không gian khác nhau
  • Chỉ trích code của X là bỏ lỡ cốt lõi vấn đề
  • Chúng ta đã đăng ký tham gia gánh xiếc hành tinh này và vẫn đang tiếp tục mua vé
• Không thể biết liệu thuật toán có thực sự hoạt động như vậy hay không
  • Bài viết chỉ cho thấy một biểu đồ của một trường hợp cụ thể, và có thể có nhiều cách giải thích cho cú rơi mạnh về lượt xem
• Cảm thấy có sự tương đồng với HN
  • Ít nhất thì HN cố gắng minh bạch về "thuật toán"
  • Đây vốn là một thuật toán đơn giản hơn nhiều so với những gì X/FB v.v. sử dụng
• Tò mò liệu thuật toán có bị ảnh hưởng bởi việc chặn các tài khoản nổi tiếng trong những trường hợp như thế này không
  • Ví dụ, tôi đã chặn Musk từ lâu, vì nếu không thì thuật toán cứ tiếp tục đẩy 'nội dung' của ông ta
  • Tò mò không biết liệu thuật toán vẫn ưu tiên cho tôi những thứ ông ta đã tương tác, hay chỉ làm vậy với những người chưa chặn ông ta
  • Những gì được dự đoán là ông ta sẽ tương tác thì được đề xuất, nhưng không rõ vì sao nó thực sự lại bị đẩy tới tôi