Cách AI phá hủy nền tảng thể chế

• Các thể chế cốt lõi của nền dân chủ như pháp quyền, đại học và báo chí được mô tả là những cấu trúc giúp tạo điều kiện cho hợp tác, ổn định và thích ứng
• Những thể chế này duy trì tính chính danh bằng cách tiếp tục tiến hóa và thích ứng trong hệ thống phân cấp thẩm quyền và khuôn khổ quy tắc
• Các thể chế dựa trên minh bạch, hợp tác và trách nhiệm giải trình hỗ trợ cá nhân chấp nhận rủi ro trí tuệ và thách thức trật tự hiện có
• Tuy nhiên, cách vận hành của các hệ thống AI lại làm suy yếu và bào mòn chính những đặc tính thể chế này
• AI gây ra xói mòn chuyên môn, rút ngắn quá trình ra quyết định và cô lập giữa con người với nhau, từ đó đe dọa tính bền vững của các thể chế công dân

---

Vai trò và cấu trúc của các thể chế công dân

• Pháp quyền, đại học, báo chí tự do... được xem là nền tảng của đời sống dân chủ
  • Chúng hoạt động như những cơ chế thúc đẩy hợp tác, ổn định và khả năng thích ứng trước thay đổi trong một xã hội phức tạp
• Sức mạnh thực sự của thể chế nằm ở khả năng tiến hóa và thích ứng trong hệ thống phân cấp thẩm quyền cùng khuôn khổ vai trò và quy tắc
• Các thể chế định hướng mục tiêu, xoay quanh minh bạch, hợp tác và trách nhiệm giải trình, giúp cá nhân chấp nhận rủi ro trí tuệ và thách thức trật tự hiện hữu
  • Quá trình này diễn ra thông qua tương tác trong các mối quan hệ con người bên trong thể chế, từ đó mở rộng tầm nhìn và củng cố cam kết với mục tiêu chung

Tác động của hệ thống AI lên thể chế

• Đặc tính chức năng (affordances) của các hệ thống AI liên tục làm suy yếu những thuộc tính cốt lõi của thể chế
• AI gây ra xói mòn chuyên môn, rút ngắn quy trình ra quyết định và chia cắt giữa con người với nhau
  • Điều này làm tổn hại đến sự tiến hóa, minh bạch, hợp tác và trách nhiệm giải trình của thể chế
• Các hệ thống AI hiện tại được mô tả như “bản án tử hình” đối với các thể chế công dân
  • Những hệ thống này vận hành theo hướng phá hủy mục đích và tính bền vững của thể chế

Kết luận

• Các hệ thống AI được xác định là một cấu trúc không thể dung hòa với những thể chế công dân cốt lõi đang nâng đỡ nền dân chủ
• Vì vậy, cần nhận diện và cảnh giác với AI như một tác nhân phá hoại thể chế

[GN⁺]

Ý kiến trên Hacker News

• Tôi nghĩ AI không hẳn là nguyên nhân mà là cơ chế tăng tốc những hiện tượng vốn đã diễn ra
  Mạng xã hội vốn đã khiến con người bị cô lập, còn bot AI đang làm điều đó diễn ra nhanh hơn. Nó cũng được dùng để gây hỗn loạn vì mục đích chính trị, và kết quả là đẩy con người vào các thái cực hơn
  Hệ thống đại học vốn đã trở thành công cụ kiếm tiền, còn các mối quan hệ giữa con người vẫn vẫn tồn tại. AI không thay đổi điều đó
  Tuy vậy, AI đang gây ra sự thiếu hụt tư duy phản biện. Mọi người đang dựa vào AI thay vì tự mình tìm tòi hay suy nghĩ sáng tạo

  • Tôi không đồng ý với ý kiến này. Đổ xăng vào một đống lá đang cháy có thể không có nghĩa là tôi đã “bắt đầu” ngọn lửa, nhưng chắc chắn là đã khiến nó bùng lên ngoài tầm kiểm soát
    AI giống như giáng búa tạ xuống một công trình vốn đã nứt vỡ
  • Câu “AI chỉ đang tăng tốc các vấn đề vốn có của xã hội” nghe giống như nói “nghiện heroin chỉ là làm những gì xã hội vốn đã làm diễn ra nhanh hơn”
    Đôi khi chính chất xúc tác mới là vấn đề. Vì vậy tôi nghĩ cả mạng xã hội lẫn AI đều cần những hàng rào an toàn nhất định
  • “Đổ dầu vào lửa” có lẽ là cách diễn đạt kỹ thuật chính xác. Mà đó thường là điều rất tệ
    Nếu AI làm tình hình xấu đi, và vì thế ngọn lửa trở nên mất kiểm soát, thì đó là trách nhiệm của AI. Một đốm lửa nhỏ thiêu rụi cả khu rừng thì rốt cuộc cũng là do xăng dầu
  • Tôi nghĩ gốc rễ vấn đề là hệ thống tư bản chủ nghĩa. Mọi công nghệ đều bị huy động để phục vụ “các con số đi lên”, còn các ngoại tác thì được xử lý bằng thuế, nhưng trên thực tế mua chuộc chính trị gia lại rẻ hơn
    Vì thế mới sinh ra thực phẩm kém dinh dưỡng, tiêu dùng vô nghĩa, trường học chỉ biết hút tiền, và mạng xã hội đầy quảng cáo
    Tôi cho rằng trong vài năm tới sẽ đến thời điểm chủ nghĩa tư bản cổ đông tự nuốt chính nó
  • Nếu bot đang kích động hỗn loạn xã hội mà nền tảng không chặn, thì nền tảng là đồng phạm
    Về mặt kỹ thuật, chặn bot không hề khó. Nếu hoạt động lấy con người làm trung tâm vừa có lợi cho độ tin cậy nền tảng vừa giúp giảm chi phí mà họ vẫn để mặc, thì khó tránh khỏi nghi ngờ có sự cấu kết với các thế lực chính trị

• Câu “pháp quyền, đại học và báo chí là nền tảng của dân chủ” có thể đúng ở thế kỷ 19, nhưng giờ thì không còn vậy nữa
  Báo chí đầy rẫy tuyên truyền, pháp quyền cũng bị chi phối bởi lợi ích chính trị. Đại học cũng khó mà tin tưởng
  Nhìn vào vụ bê bối Varsity Blues, thật khó coi đây là trụ cột của dân chủ

  • Hiện tại, lựa chọn thay thế cho các thể chế đó là mạng xã hội, nhưng nó còn tệ hơn nhiều về độ chính xác, công bằng và tính hiếu kỳ
    Vì vậy tôi lại cho rằng AI có thể là phương án thay thế tốt hơn. AI và thể chế có thể là mối quan hệ cộng sinh
  • Trớ trêu thay, các thể chế hiện nay có thể đang ở trạng thái tốt nhất trong lịch sử
    Trước đây ta tin tưởng hơn chỉ vì không biết rõ, còn bây giờ trong lúc theo đuổi sự hoàn hảo, ta lại đánh mất cái “đủ tốt”
    Sự bất tín là nhà tù do chính ta dựng nên
  • Báo chí từ trước đến nay vẫn luôn là tuyên truyền. Chỉ là ngày xưa không có truyền thông thay thế nên ta không nhận ra
    Điểm mạnh của dân chủ nằm ở một cấu trúc cho phép thảo luận công khai và giải quyết vấn đề
  • Nếu tất cả những điều này là thật, vậy tôi muốn hỏi nền tảng mới của dân chủ nên là gì

• Link tải bài báo là ở đây

  • Đây là bản thảo chưa qua bình duyệt. Các ví dụ như DOGE hay FDA cũng có cơ sở yếu
    Đặc biệt, chỉ trích việc FDA dùng AI dựa trên một bài báo sai. Trên thực tế nó đang được dùng cho thu hồi sản phẩm
    Rốt cuộc bài này gần với một bài viết nêu quan điểm hơn
  • Có quá nhiều lỗi chính tả và dấu câu nên khó mà tin cậy
    Tôi đồng cảm với lập luận “AI có hại cho xã hội”, nhưng bài viết thiếu hiểu biết về vì sao công chúng lại dùng AI
    Khi y tế, giáo dục và báo chí không làm tròn vai trò của mình, việc con người tìm đến AI là điều tự nhiên

• Vấn đề không phải AI mà là cấu trúc niềm tin của các thể chế do con người tạo ra
  Phần lớn các thể chế được duy trì dựa trên thẩm quyền, gần như kiểu “tầng lớp giáo sĩ”, và vì là thiết kế từ thời trước game theory nên dễ bị thao túng
  Giờ đây, con người không còn nhìn thể chế như những công trình thiêng liêng mà là những cấu trúc có thể vỡ vụn
  Ví dụ, chiến dịch trục xuất gần đây của ICE là kết quả của việc các thế lực chính trị thực hiện tấn công Sybil vào nền dân chủ Mỹ
  Giải thích về Sybil attack

  • Vậy thì trong trường hợp này, nhiều danh tính giả nằm ở đâu, tôi khá tò mò

• Tôi hoài nghi những giả thuyết kiểu này. Sự xuống cấp thường bắt đầu trước cả nguyên nhân được chỉ ra
  Mạng xã hội hay Tinder không hẳn là nguyên nhân của cô đơn, mà đúng hơn chỉ tăng tốc một xu hướng vốn đã tồn tại
  Các công nghệ xã hội như pháp quyền, báo chí, đại học cũng đã bị lộ điểm yếu và bị khai thác suốt thời gian dài

• Tiêu đề “AI bào mòn tính chuyên môn” nghe khá lạ
  Nếu tư vấn luật sư tốn 500 euro cho 30 phút còn AI thì gần như miễn phí, thì dù chất lượng chỉ đạt 80% thì lựa chọn kinh tế vẫn là AI
  Đúng là AI đang thay đổi xã hội, nhưng đổ mọi trách nhiệm lên AI thì hơi quá. Bản thân các thể chế vốn đã không khỏe mạnh

  • Có một góc nhìn tiêu cực vì AI đang tháo dỡ các cấu trúc tri thức hiện có
    Trước đây con người phải phụ thuộc vào chuyên gia, còn giờ là thời đại ai cũng có thể có tri thức chỉ với một gói thuê bao AI
    Xã hội đang tiến về trạng thái entropy cực đại. Trong bối cảnh đó, giá trị và đồng thuận sẽ được hình thành như thế nào là điều đáng hỏi
  • Ngược lại, tôi nghĩ vấn đề càng quan trọng thì con người càng sẵn sàng trả tiền cho lời khuyên đáng tin cậy
    Một lời khuyên pháp lý sai 20% còn nguy hiểm hơn là không có gì. Vấn đề là khi ngay cả luật sư cũng bắt đầu phụ thuộc vào AI
  • Vấn đề chất lượng nảy sinh vì trách nhiệm khi thất bại khác nhau. Luật sư có thể bị kiện vì tư vấn sai, còn AI thì được miễn trừ trách nhiệm

• Cuối cùng có vẻ như các luật sư giờ mới bắt đầu cảm nhận khủng hoảng. Mười năm tới có lẽ sẽ là giai đoạn mọi ngành nghề tri thức đều phải đấu với AI

  • Luật sư có lý do để phản đối AI không chỉ để sinh tồn mà còn để bảo vệ giá trị cốt lõi của pháp luật
    Pháp luật phải có khả năng tự phản tư và phát triển, nhưng AI lại có xu hướng cố định hiện trạng. Điều đó xung đột với tinh thần của pháp luật
  • “12 Angry Agents” đúng là cách chơi chữ khá hóm hỉnh
  • Việc gạt bỏ phê phán rằng công nghệ làm xã hội bất ổn như thể đó là thuyết âm mưu là một thái độ có vấn đề

• Tôi đã cảm thấy các thể chế bị trọng thương từ lâu rồi
  Mạng xã hội và việc tiêu thụ nội dung vô hạn đang làm suy yếu báo chí, làm tê liệt việc ra quyết định và cô lập con người

  • Câu “mạng xã hội cô lập con người” có lẽ đang nói về doomscrolling
    Thực ra mạng xã hội cũng có thể tạo ra kết nối. Tất nhiên, Facebook có thể là ngoại lệ

• Vì sao lại không có sự bất tín thể chế đối với nha sĩ?
  Từ sau thập niên 1990, việc điều trị đã dễ chịu hơn nhiều và cải thiện chất lượng sống, đó là lý do
  Trong khi đó, các chuyên gia khác chỉ nói “nghe lời chúng tôi thì mọi thứ sẽ bớt tệ hơn”. Muốn giành được niềm tin thì phải thực sự cải thiện đời sống

  • Nhưng cũng có người nói nha sĩ đang mất niềm tin vì chẩn đoán quá mức và hành vi bán hàng
    Tôi tin nha sĩ phòng khám tư, nhưng khó tin các chuỗi nha khoa lớn
  • Tôi cũng hoàn toàn không tin nha sĩ. Tôi từng gặp trường hợp họ muốn kiếm tiền bằng các thủ thuật không cần thiết
    Cuối cùng thì vấn đề là một cấu trúc biến thời gian và bệnh nhân thành tiền. Việc khám chữa cẩn thận đang trở thành đặc quyền của người giàu