Chúng ta đang tạo ra địa ngục để bán quảng cáo [Video]

• Mối đe dọa của trí tuệ nhân tạo không nằm ở robot mà ở cách những kẻ nắm quyền sử dụng AI
• Quảng cáo số và cấu trúc thuyết phục đang tiến hóa theo hướng xác định và thao túng điểm yếu của từng người dùng
• Thuật toán học máy dự đoán và dẫn dắt hành vi con người theo những cách mà chúng ta không thể hiểu hết
• Thu thập dữ liệu và thao túng thuật toán đang được dùng để tác động đến chính trị và xã hội
• Chúng ta cần thiết kế lại cấu trúc của các hệ thống số theo hướng minh bạch và phát triển công nghệ theo hướng bảo vệ các giá trị của con người

---

AI và quyền lực: những rủi ro thực tế

• Nỗi sợ thực sự về AI không phải là robot kiểu Terminator, mà là việc những người nắm quyền thao túng AI để kiểm soát con người
• Giống như "1984" của George Orwell, các hệ thống giám sát có thể trở thành hiện thực
• Các công ty đang phát triển những công nghệ có thể xâm phạm tự do và phẩm giá cá nhân
• Các công ty như Facebook, Google, Amazon, Alibaba và Tencent đang tập trung vào thu thập và phân tích dữ liệu thông qua quảng cáo

Sự tiến hóa của quảng cáo số và cấu trúc thuyết phục

• Quảng cáo truyền thống phụ thuộc vào không gian vật lý và nhắm mục tiêu hạn chế, nhưng trong thế giới số, việc thuyết phục được cá nhân hóa cho từng người đã trở nên khả thi
• Quảng cáo internet tạo ra những quảng cáo cá nhân hóa bám theo ta không ngừng dựa trên những gì ta đã xem, tìm kiếm và trò chuyện
• Không giống thế giới vật lý, không gian số có thể vận hành cấu trúc thuyết phục theo thời gian thực ở quy mô hàng tỷ

Sức mạnh và giới hạn của thuật toán học máy

• Thuật toán học máy được dùng để dự đoán và thao túng hành vi cá nhân thông qua lượng dữ liệu khổng lồ
• Ngay cả lập trình viên cũng không thể hiểu hoàn toàn cách bên trong thuật toán vận hành
• Dữ liệu càng nhiều, hiệu năng của thuật toán càng mạnh, vì vậy các công ty cố gắng thu thập càng nhiều dữ liệu càng tốt

Mạng xã hội và thao túng chính trị

• Facebook và YouTube có thể phân tích và thao túng xu hướng chính trị thông qua thuật toán
• Ví dụ, Facebook dùng bảng tin không công khai để chỉ hiển thị thông tin cho những nhóm dân số cụ thể
• Đã có những trường hợp chỉ với một bài đăng đơn giản cũng làm thay đổi hành vi bỏ phiếu của hàng trăm nghìn người
• Thuật toán đề xuất của YouTube tạo ra hiệu ứng "hang thỏ" kéo người dùng vào nội dung cực đoan

Sự cần thiết phải thiết kế lại các hệ thống số

• Hiện nay chúng ta đang ở trong tình trạng không biết mình đang thấy thông tin gì và người khác đang thấy gì
• Thuật toán có thể nhận diện các đặc điểm cá nhân như dân tộc, xu hướng chính trị, xu hướng tính dục
• Trung Quốc đang tăng cường hệ thống giám sát bằng công nghệ nhận diện khuôn mặt, và phương Tây cũng đối mặt với rủi ro tương tự
• Cần tái cấu trúc công nghệ số dựa trên các giá trị con người và bảo đảm tính minh bạch
• Điều đó đòi hỏi những thay đổi toàn diện, từ công nghệ, sáng tạo cho đến cấu trúc chính trị

Kết luận: trách nhiệm lớn lên cùng công nghệ số

• Các nền tảng số là công cụ có giá trị, nhưng đồng thời cũng có thể trở thành mối đe dọa nghiêm trọng đối với cá nhân và xã hội
• Hệ thống hiện tại là một cấu trúc trong đó chúng ta bị mua bán như một "sản phẩm"
• Để có một tương lai tốt đẹp hơn, cần có tính minh bạch của công nghệ, các giá trị lấy con người làm trung tâm, cùng những thay đổi mang tính sáng tạo và chính trị
• Cần nhận thức rằng "công nghệ có tiềm năng to lớn thì cũng đi kèm những rủi ro to lớn"

[GN⁺]

Ý kiến trên Hacker News

• Cảm thấy phần lớn quảng cáo trên internet là vô nghĩa và có tính lừa đảo

  • Nếu quảng cáo không như vậy thì không sao
  • Dùng Ublock Origin vì không biết thuật toán sẽ hiển thị quảng cáo nào
  • Nghĩ rằng quảng cáo nên trở thành loại quảng cáo đủ hay để mọi người muốn xem, chứ không chỉ là nội dung được trả tiền để quảng bá
  • Thích nhạc quảng cáo như Splendor Song Chalta rahe nên vẫn tiếp tục nghe
  • Cảm thấy đa số quảng cáo là lừa đảo bán giấc mơ làm giàu
  • Ghét những kẻ bán khóa học lừa đảo kiểu này và cho rằng nền kinh tế quảng cáo vận hành xoay quanh bọn lừa đảo
  • Có vẻ như đang tạo ra một cơn ác mộng về quyền riêng tư và một xã hội phản địa đàng
  • Muốn tắt quảng cáo và sử dụng dịch vụ
  • Không kỳ vọng kiếm được doanh thu lớn từ khách hàng phổ thông thay vì khách hàng doanh nghiệp
  • Cảm thấy có nghĩa vụ đạo đức với mã nguồn mở, nhưng đang băn khoăn vì doanh nghiệp có thể tự lưu trữ
  • Hệ thống bị chi phối bởi tiền, và khi thiếu tiền thì đạo đức rất dễ bị phớt lờ
  • Cạnh tranh quá nhiều và khác biệt ý tưởng không lớn nên đã thử quảng cáo

• Đang dùng AdBlock Pro và AdBlock trên Safari để tránh quảng cáo

  • Vì dành nhiều thời gian trên YouTube nên đã đăng ký Premium và mua tiện ích UnTrap for YouTube để ẩn đề xuất
  • Thường xuyên vào BlueSky, Hacker News và YouTube, nhưng không dùng X, TikTok, Instagram hay Facebook
  • Đang cố không dùng Amazon

• Đã phàn nàn rất nhiều về bất bình đẳng thu nhập, nhưng điều này giải thích được khá nhiều thứ

  • Mọi người không đủ khả năng chi tiêu cho dịch vụ nên các công ty phải kiếm tiền bằng cách giành giật sự chú ý
  • Vì sản phẩm là miễn phí nên không có kỳ vọng về việc hỗ trợ người dùng

• Chấp nhận cookie, xem quảng cáo, đóng popup bản tin và xem video về quảng cáo

  • Thật sự nói trúng tim đen

• Cách Reddit triển khai telemetry cực kỳ hung hăng

  • Endpoint để thu thập sự kiện thay đổi ngẫu nhiên mỗi lần tải trang
  • Tất cả URL thu thập sự kiện đều là các endpoint API hợp lệ dùng cho mục đích khác
  • Rất khó chặn bằng các công cụ chặn quảng cáo thông thường
  • Nghĩ rằng điều này mang tính ác ý

• Có nhiều bình luận nói rằng ad blocker tồn tại, nhưng họ đang bỏ lỡ vấn đề cốt lõi

  • Tác hại của nền kinh tế internet dựa trên quảng cáo không chỉ giới hạn ở việc phải nhìn thấy quảng cáo
  • Toàn bộ nội dung và cấu trúc của internet đều bị bóp méo để phù hợp với nền kinh tế này
  • Công cụ tìm kiếm, SEO, cơ chế khám phá nội dung, cũng như loại hình và sự đa dạng của nội dung đều có thể đã tốt hơn

• Tò mò liệu có thể phát động một cuộc tấn công bằng cách giả mạo con người tiêu thụ quảng cáo để khiến các chỉ số quảng cáo trở nên vô nghĩa hay không