- Khi công nghệ thuyết phục dựa trên AI phát triển, chi phí để giới tinh hoa tinh chỉnh chính xác các ưu tiên chính sách của công chúng giảm mạnh
- Nghiên cứu phân tích bằng mô hình động cách giới tinh hoa tái cấu trúc phân bố ý kiến của công chúng khi xét đến ràng buộc đa số và chi phí thuyết phục
- Trong chế độ chỉ có một giới tinh hoa, khi công nghệ thuyết phục được cải thiện, xã hội có xu hướng hội tụ về trạng thái phân cực cực đoan
- Ngược lại, khi hai giới tinh hoa đối địch nắm quyền luân phiên, công nghệ thuyết phục có thể dẫn xã hội tới trạng thái “semi-lock” và làm giảm phân cực
- Kết quả cho thấy, khi AI làm giảm chi phí thuyết phục, phân cực không còn là hiện tượng tự phát mà trở thành công cụ của chiến lược cai trị, kéo theo những hàm ý quan trọng đối với sự ổn định của nền dân chủ
Sự thay đổi của công nghệ thuyết phục trong nền dân chủ
- Trong nền dân chủ, để thực thi chính sách thì việc giành được sự ủng hộ của công chúng là điều thiết yếu, và giới tinh hoa phải định hình hoặc thay đổi niềm tin của công chúng để đạt được điều đó
- Trước đây, họ phải dựa vào những phương thức chậm và kém hiệu quả như giáo dục học đường, phát thanh truyền hình công, tuyên truyền, mạng lưới bảo trợ
- Do chi phí cao và độ chính xác thấp, những cách này khiến việc thao túng dư luận trên quy mô lớn trở nên khó khăn
- Sự phổ biến của AI đang thay đổi tận gốc các ràng buộc này
- Mô hình tạo sinh và hệ thống tác tử có thể tạo hàng loạt nội dung thuyết phục được cá nhân hóa theo thời gian thực
- Khi chi phí thuyết phục giảm xuống, bản thân phân bố sở thích của công chúng trở thành biến số lựa chọn của giới tinh hoa
Mô hình một giới tinh hoa: “lực kéo phân cực”
- Một giới tinh hoa duy nhất ở mỗi thời điểm sẽ điều chỉnh sự ủng hộ của công chúng để thực thi chính sách dưới quy tắc đa số
- Khi tồn tại chi phí thuyết phục, giới tinh hoa có lợi hơn nếu duy trì xã hội ở trạng thái phân hóa vừa phải để đối phó với bất định trong tương lai
- Càng gần trạng thái 50:50, nếu hướng chính sách đổi chiều ở giai đoạn tiếp theo thì chi phí chuyển đổi sự ủng hộ sẽ được tối thiểu hóa
- Vì vậy, giới tinh hoa có xu hướng đẩy dư luận ra xa đồng thuận, tức là dịch chuyển theo hướng cực đoan hóa
- Công nghệ thuyết phục càng tiến bộ thì tốc độ hội tụ phân cực này càng nhanh
- Kết quả phân tích toán học cho thấy, giới tinh hoa thấy tối ưu khi đưa dư luận về gần giá trị trung vị (1/2), và chỉ xuất hiện các điều chỉnh theo hướng rời xa đồng thuận
Mô hình cạnh tranh giữa hai giới tinh hoa: hiệu ứng “semi-lock”
- Khi hai giới tinh hoa có sở thích chính sách đối lập và nắm quyền luân phiên, tác động của công nghệ thuyết phục sẽ khác đi
- Cả hai bên đều muốn giữ dư luận gần ngưỡng đa số, nhưng phân cực cực đoan làm tăng nguy cơ bị đối thủ giành lại quá dễ dàng
- Vì thế, mỗi giới tinh hoa tìm cách đưa dư luận vào một vùng cố định trung gian mà đối phương khó lật ngược
- Kết quả là, công nghệ thuyết phục tùy bối cảnh có thể làm gia tăng hoặc làm dịu phân cực
- Cạnh tranh càng gay gắt thì càng có khả năng dẫn tới gia tăng gắn kết xã hội
Điểm khác biệt so với nghiên cứu trước đây
- Các tài liệu trước đây chủ yếu xem phân cực là kết quả của những yếu tố ngoại sinh như thu nhập, bản sắc, cấu trúc truyền thông
- Nghiên cứu này mô hình hóa phân cực như một công cụ chính sách được giới tinh hoa lựa chọn có tính chiến lược
- Đồng thời, nghiên cứu kết nối việc công nghệ thuyết phục dựa trên AI phát triển với cách nó tái định hình cân bằng chính trị và phân bố dư luận trong dài hạn
- Các nghiên cứu liên quan được tham chiếu gồm thí nghiệm thuyết phục bằng LLM (Salvi et al., Schoenegger et al., Tappin, v.v.) và tác động kinh tế chính trị của AI (Korinek, 2024)
Hàm ý đối với sự ổn định của nền dân chủ
- Chi phí thuyết phục càng thấp thì phân cực càng vận hành không phải như hiện tượng tự nhiên mà như một công cụ cai trị mang tính chiến lược
- Điều này có thể làm gia tăng bất ổn chính trị và rủi ro thao túng thông tin
- Khi tiến bộ AI tái cấu trúc cấu trúc và chi phí của thuyết phục chính trị, nó đặt ra những thách thức mới đối với tính bền vững của các thể chế dân chủ
1 bình luận
Ý kiến trên Hacker News
Khi đọc bài tiểu luận của Converse, tôi thấy băn khoăn liệu công chúng có thực sự có quan điểm hay không
Ví dụ như vấn đề thuế quan, các khảo sát dư luận cho thấy khoảng 38% ủng hộ, nhưng nếu nhìn theo lợi ích từng ngành thì có vẻ con số thực sẽ thấp hơn nhiều
Bán lẻ, dịch vụ và xây dựng không hưởng lợi gì từ thuế quan, còn ngành sản xuất cũng khá nước đôi vì phụ thuộc vào nguyên liệu nhập khẩu
Cuối cùng, bên thực sự ủng hộ mạnh chỉ có ngành thép và nhôm, mà quy mô cũng chỉ khoảng 2% GDP
Điều thú vị là cuốn sách này được xuất bản năm 1964, nói về giai đoạn ngay trước khi bất mãn xã hội bùng nổ với chiến tranh Việt Nam và phong trào phản văn hóa
Tôi xem đó là kết quả của một phân tích chi phí - lợi ích nhằm giảm phụ thuộc vào nước ngoài và tăng việc làm
Mọi người thường tưởng rằng mình biết rất nhiều, rồi tin rằng ý kiến đó nên được đối xử ngang bằng trong quá trình hoạch định chính sách
Ở xã hội phương Tây, văn hóa không chất vấn hay quy trách nhiệm cho quan điểm của nhau ngày càng mạnh, khiến hiện tượng này trầm trọng hơn
Nội dung bài viết không phải thảo luận chuyên biệt về AI
Trọng tâm là cấu trúc chi phí của sự thuyết phục, còn AI chỉ được nhắc đến như một công cụ giúp tạo nội dung tuyên truyền rẻ hơn
Cùng logic đó cũng có thể áp dụng cho quảng cáo nhắm mục tiêu trên Facebook hay đội quân troll Nga
AI nói với giọng đầy tự tin nên tạo cảm giác có thẩm quyền
Vấn đề thật sự là ảnh hưởng của giới siêu giàu đang kiểm soát những thông điệp này
Tôi đã ghi lại suy nghĩ về điều này trong bài blog
Troll Nga có thể nhờ tự động hóa để sản xuất nội dung gấp 10 lần, còn các phong trào phản đối tự phát thì không thể mở rộng tương ứng như vậy
Nhiều điều tốt sẽ tăng lên, nhưng vấn đề là những điều xấu cũng có thể được thực hiện với chi phí rẻ hơn
Việc giới tinh hoa thao túng dư luận đã tồn tại từ thời báo in và phát thanh truyền hình
Sách giáo khoa và chương trình giáo dục cũng vậy
Thậm chí LLM có thể còn có khả năng kháng tuyên truyền tốt hơn, chỉ sau bách khoa toàn thư
Vì có cạnh tranh thương mại nên nếu một mô hình nào đó thiên lệch, người dùng sẽ nhanh chóng nhận ra và rời bỏ nó
Khái niệm “tường thuật khách quan” thực ra cũng bắt nguồn từ chiến lược xây dựng độ tin cậy mang tính thương mại
Trở thành một 'người suy nghĩ tự do' thường cũng đồng nghĩa với việc trở thành 'người kỳ quặc'
Đám đông có thể sai, nhưng nếu một mình nghĩ khác thì cái giá xã hội phải trả rất lớn
Ví dụ, tôi cho rằng dùng mỗi nệm mà không cần khung giường thì thoải mái hơn, nhưng đa số sẽ thấy điều đó kỳ lạ
Rốt cuộc chúng ta sinh ra một mình và chết đi một mình, sự công nhận của người khác chỉ là tạm bợ
Nếu không thông thoáng, nấm mốc có thể xuất hiện, và với người già yếu thì cũng bất tiện
Những sản phẩm được thiết kế để đặt trên sàn như futon sẽ phù hợp hơn
Hiện nay các mô hình AI lớn đã được tinh chỉnh (fine-tuning) với các chủ đề nhạy cảm
Chúng được điều chỉnh theo định hướng mà các nhóm pháp lý, marketing và quản trị của doanh nghiệp cùng thống nhất, và hàng triệu người sử dụng nguyên kết quả đó
Tôi đã dùng AI và đòi lại thành công 200 USD từ ngân hàng
AI đã viết giúp tôi một thư yêu cầu chính thức dựa trên tài liệu PDF của ngân hàng
Trong tương lai, khi ngân hàng cũng dùng AI để xử lý các yêu cầu kiểu này, chúng ta sẽ bước vào thời đại AI thuyết phục AI
Cần có một benchmark LLM mới: AI-persuasion™
Việc thao túng ảnh hưởng bằng machine learning đã tồn tại từ 10 năm trước
Khai phá dữ liệu và nhắm mục tiêu quảng cáo là những công nghệ đã trưởng thành
Điều đáng lo không phải là sự thuyết phục ngẫu hứng, mà là ảnh hưởng mang tính cấu trúc định hình niềm tin từ thời thơ ấu
“Thế hệ iPad” là một ví dụ khiến điều này trở nên đáng sợ
Mọi người có xu hướng tiếp nhận thông tin đầu tiên họ nghe được như sự thật, rồi phản ứng cảm tính khi sau đó bị bác bỏ
Những “sự thật” bị nhồi vào từ nhỏ rất khó thay đổi về sau, và các hệ thống tự động có thể làm điều này ở quy mô lớn
Điều đó nguy hiểm vì chi phí thao túng gần như tiến về 0
Chúng ta không có cơ chế bảo vệ trước một xã hội giám sát tư nhân
Điều thực sự cần giải quyết là những vấn đề đời sống thường nhật như giáo dục, nhà ở, lương thực và chi phí sinh hoạt
Phần lớn lịch sử loài người là một cấu trúc phong kiến nơi một thiểu số tinh hoa độc chiếm của cải và quyền lực
Bất bình đẳng hiện nay là kết quả mà hệ thống vốn hướng tới, và nó sẽ còn xấu đi hơn nữa
Tỷ lệ biết chữ, tỷ lệ tham gia giáo dục và tình trạng dinh dưỡng đều đã cải thiện rất nhiều so với năm 1925
Chỉ có chi phí nhà ở và sinh hoạt là xấu đi trở lại trong khoảng 20 năm gần đây
Nhờ mạng xã hội và AI, chi phí của 'lời nói dối được lặp đi lặp lại (Big Lie)' đã giảm mạnh
Vì vậy, chính phủ có thể dễ dàng lan truyền những thông điệp kiểu nhấn mạnh rằng giá cả đang giảm
“Big Lie” thật sự chỉ khả thi nhờ một số ít người trong nội bộ bị cài cắm, và CIA đã cho thấy hiệu quả của cách đó từ lâu
Gần một thế kỷ trước, 1984 của George Orwell đã dự báo tình cảnh này
Tác phẩm mô tả cơn ác mộng kiểm soát thông tin nơi hồ sơ bị chỉnh sửa theo thời gian thực và quá khứ bị xóa bỏ
Xem nguyên văn