Việc xây siêu máy tính cho các nhà độc tài không nhất thiết có lợi cho dân chủ

• OpenAI gần đây đã công bố quan hệ đối tác xây dựng trung tâm dữ liệu AI quy mô lớn tại UAE
• Dù quan hệ đối tác này được nói là “bắt nguồn từ các giá trị dân chủ”, UAE lại là một quốc gia phi dân chủ điển hình
• Freedom House và các tổ chức khác nhấn mạnh việc UAE đàn áp quyền tự do dân sự và quyền chính trị
• OpenAI nêu ra mục tiêu mở rộng AI dân chủ cho sự hợp tác lần này, nhưng mức độ đóng góp thực tế cho dân chủ vẫn còn chưa rõ
• Có lo ngại rằng việc chuyển giao tài nguyên siêu máy tính có thể dẫn tới việc tăng cường sức mạnh quốc gia của một nhà nước độc tài

---

Tổng quan về quan hệ đối tác siêu máy tính AI của OpenAI tại UAE

• Vào tháng 5/2024, OpenAI chính thức công bố chương trình OpenAI for Countries và dự án Stargate, một trung tâm dữ liệu AI quy mô lớn tại Mỹ
• OpenAI cho biết các chính phủ đang nhận ra rằng sự tập trung năng lực tính toán AI sẽ trở thành yếu tố cốt lõi của năng lực cạnh tranh quốc gia, đồng thời tuyên bố mục tiêu “mang AI dân chủ đến các quốc gia trên thế giới”
• Sau thông báo đó, OpenAI tiếp tục công khai quan hệ hợp tác với UAE để xây dựng một trung tâm dữ liệu AI hiện đại, và cho biết quan hệ đối tác này “dựa trên các giá trị dân chủ”

Thực trạng dân chủ tại UAE

• Theo đánh giá năm 2024 của Freedom House, UAE chỉ đạt 18/100 điểm, thấp hơn cả Haiti, Zimbabwe và Iraq
• UAE là một chế độ quân chủ cha truyền con nối, với các đặc điểm như độc quyền quyền lực chính trị, cấm các chính đảng, quyền bầu cử bị hạn chế, và một hội đồng tư vấn không có quyền lập pháp thực chất
• Những người chỉ trích chính phủ, bảo vệ nhân quyền, cũng như các ứng viên và nhà hoạt động kêu gọi cải cách chính trị đều có thể bị giam giữ, còn gia đình họ cũng trở thành đối tượng giám sát và trừng phạt
• Các cơ quan báo chí chịu tự kiểm duyệt hoặc kiểm duyệt trực tiếp từ chính phủ, và cả sách giáo khoa lẫn chương trình giảng dạy cũng bị kiểm duyệt
• Lao động nhập cư, chiếm 90% dân số, không có quyền chính trị, trong khi vấn đề bóc lột lao động cũng rất nghiêm trọng. Các tổ chức nhân quyền quốc tế còn chỉ ra tình trạng nô lệ thời hiện đại diễn ra phổ biến

Phê phán lập luận về ‘AI dân chủ’ của OpenAI

• OpenAI và Chris Lehane (phụ trách chính sách toàn cầu) cho rằng việc mở rộng công nghệ AI của Mỹ đồng nghĩa với sự lan tỏa của các giá trị dân chủ
• Các lập luận chính gồm:
  1. AI do Mỹ phát triển thể hiện các giá trị dân chủ, nên việc mở rộng nó ra nước ngoài sẽ tạo ra hiệu ứng thúc đẩy dân chủ
  2. Trong cuộc cạnh tranh AI giữa Mỹ và Trung Quốc, việc Mỹ chiến thắng gắn trực tiếp với việc bảo vệ dân chủ
• Trên thực tế, việc khả năng sử dụng ChatGPT tại UAE được mở rộng không có nghĩa là sẽ đảm bảo tự do ngôn luận thực chất hay dẫn tới sự phát triển dân chủ ngay lập tức
• Ngay cả việc dịch vụ có được cung cấp theo các tiêu chuẩn kiểm duyệt tại UAE hay không cũng chưa rõ ràng. Câu trả lời của COO OpenAI rằng họ sẽ “cùng thảo luận với chính phủ” cũng phần nào cho thấy điều đó

Tác động của việc hỗ trợ công nghệ siêu tính toán cho các chính phủ độc tài

• Hạ tầng siêu máy tính AI quy mô lớn đang nổi lên như một yếu tố cực kỳ quan trọng của quyền lực quốc gia
• Với quan hệ đối tác lần này, UAE nhiều khả năng sẽ giành được quyền tiếp cận đáng kể hoặc quyền sở hữu đối với các chip AI tiên tiến nhất
• Như Lehane đã đề cập, thỏa thuận này là động lực cốt lõi có thể đưa UAE lên hàng ngũ cường quốc AI
• Dù cách tiếp cận ngoại giao thực dụng của Mỹ có thể mang lại lợi ích, nó cũng kéo theo hàm ý tiêu cực lớn là gia tăng sức mạnh quốc gia cho một chế độ độc tài

Kết luận và vấn đề đặt ra

• Điều này không có nghĩa rằng hợp tác về bán dẫn và AI tự thân là tiêu cực
• Phần lớn chi tiết hợp đồng giữa OpenAI và UAE hiện vẫn không được công khai hoặc chưa được xác định
• Tuy nhiên, rõ ràng thỏa thuận lần này chỉ có thể được thực hiện theo những điều kiện mà hoàng gia UAE có thể chấp nhận → khả năng thúc đẩy dân chủ là rất hạn chế
• Mục tiêu của OpenAI rằng công nghệ AI phải phục vụ lợi ích của toàn nhân loại, và vấn đề phân bổ quyền quản trị và quyền kiểm soát trên thực tế, vẫn là hai chuyện hoàn toàn khác nhau
• Trường hợp lần này có thể được xem như một tín hiệu cho thấy OpenAI có thể đã không cân nhắc nghiêm túc giữa danh nghĩa chính đáng và các rủi ro thực tế như tập trung quyền lực và thụt lùi dân chủ

[GN⁺]

Ý kiến trên Hacker News

• Điều tôi thực sự ghét là bầu không khí lúc nào cũng dành cho các công ty đình đám như OpenAI một kiểu biện minh hay ngoại lệ đặc biệt. Thực tế thì đây là việc mà các tập đoàn công nghiệp ít phô trương hơn như Cisco hay Oracle đã làm suốt hàng chục năm. Tôi không nghĩ việc phân tích OpenAI đang làm gì nên là điểm khởi đầu và cũng là điểm kết thúc của câu chuyện
  • Cisco và Oracle chưa từng khởi đầu như một tổ chức phi lợi nhuận với khẩu hiệu phụng sự tương lai tốt đẹp hơn cho nhân loại. Điều này cũng chẳng khác gì việc Google từng bị chỉ trích vì nêu khẩu hiệu “đừng làm điều ác” rồi sau đó vứt bỏ nó. Việc một công ty đã làm điều sai trái mà vẫn bị cho qua không có nghĩa là từ nay không được đòi hỏi tiêu chuẩn cao hơn ở những công ty khác
  • Chính trị là nghệ thuật của điều khả thi. Dù có hơi khó chịu, tôi vẫn thấy đáng trân trọng khi có những nỗ lực cố hành động theo nguyên tắc. Dĩ nhiên động cơ thật sự có thể chỉ là lớp trang điểm, nhưng trong trường hợp này, dù rõ ràng tác giả muốn chỉ đích danh OpenAI để phê phán, tôi vẫn thấy lập luận tự thân đã đủ sức thuyết phục
  • Ngành công nghệ đã liên tục bán các hệ thống máy tính cỡ lớn và công nghệ tiên tiến cho UAE suốt hàng chục năm. Bối cảnh ban đầu khiến AMD tách ra thành GloFo cũng thực ra có mục tiêu xây một nhà máy bán dẫn tiên tiến ở Abu Dhabi, nhưng rốt cuộc các vấn đề chuỗi cung ứng và nguồn nước giữa sa mạc trở thành hiện thực nên rất khó triển khai
  • Chuyện này còn có lịch sử lâu đời hơn nhiều so với những gì Cisco và Oracle đã làm suốt mấy chục năm. IBM từng thực sự cung cấp máy tính được dùng trong việc vận hành Holocaust
  • Tôi nghĩ chính OpenAI đã tự phơi mình ra trước kiểu chỉ trích này khi giương cao khẩu hiệu “thúc đẩy dân chủ”. Trên thực tế động cơ kiếm tiền quá rõ ràng, nên việc nêu ra những tuyên bố như vậy chỉ khiến họ bị phản tác dụng
• Tôi đã bỏ sót việc phạm trù “quốc gia độc tài” trong bài thực ra đang chỉ các chế độ quân chủ vùng Vịnh hơn là những kẻ theo chủ nghĩa độc đoán trong nội bộ nước Mỹ. Thứ nhất, với Nvidia thì bán số lượng lớn GPU cho các nhà đầu tư Saudi đáng tin cậy là một thương vụ tốt. Thứ hai, các quốc gia quân chủ vùng Vịnh phụ thuộc vào quan hệ với Mỹ và cũng muốn duy trì trật tự hiện tại để tránh một cuộc cách mạng Hồi giáo. Thứ ba, điện cho data center có thể giải quyết bằng điện mặt trời. Những nước này có giám sát người dùng không ư? Tất nhiên là có. Họ đã có thể dễ dàng lách luật địa phương thông qua các thỏa thuận chia sẻ tình báo với GCHQ và NSA. Chẳng có gì đặc biệt mới mẻ, và rốt cuộc điều đó chỉ càng khiến tôi nghĩ rằng không nên giao suy nghĩ hay đời tư của mình cho bất kỳ SaaS nào
  • Tôi nghĩ thực tế còn tinh vi hơn thế. Họ đã nắm lịch sử mua sắm, địa chỉ, siêu dữ liệu cuộc gọi của tôi, và nhờ DOGE mà giờ còn gom cả dữ liệu liên bang. Không cần đến feed mạng xã hội của tôi thì họ vẫn đủ sức trở thành mối đe dọa. Hơn nữa chuyện này cũng không chỉ giới hạn ở SaaS. Họ đang cào toàn bộ web với tốc độ khủng khiếp, nên tôi cảm thấy ranh giới đời sống của mình đã bị mở rộng ra xa hơn rất nhiều
  • Cuối cùng thì cộng đồng HN chỉ là một nhóm nhỏ, còn phần lớn mọi người trên thế giới vừa thiếu thông tin vừa rồi sẽ chọn đánh đổi quyền riêng tư để lấy sự tiện lợi. Cũng đáng để nghĩ đến quan điểm rằng lựa chọn lý tưởng là khiến ngay từ đầu không tồn tại sự cám dỗ như vậy
• Tôi nghĩ phát triển công nghệ cho các nhà độc tài, dưới bất kỳ hình thức nào, đều không tích cực cho dân chủ. Cốt lõi của một nền dân chủ là tối đa hóa của cải cho tầng lớp lao động. Chỉ khi người dân có đủ dư dả và giáo dục để chăm lo cho bản thân, gia đình và cộng đồng thì mới có thể có sự tham gia dân chủ có ý nghĩa. Tốt hơn là đừng phát triển vì bất kỳ nhà độc tài nào, dù ở Mỹ, các nước vùng Vịnh hay Nga vậy (dĩ nhiên trên thực tế điều này không dễ)
  • Sự tham gia dân chủ và thực tế của các quốc gia độc tài có vẻ là hai câu chuyện hơi tách biệt. Trái lại, công nghệ càng phát triển nhanh thì xu hướng phản địa đàng ở các xã hội phương Tây, đặc biệt là bên trong nước Mỹ, lại càng nghiêm trọng hơn. Trong khi đó, các quốc gia độc tài ở Trung Đông từ lâu đã vận hành các chế độ phúc lợi mạnh, và vì dân số ít nên họ có thể hưởng lợi hiệu quả hơn từ cơn sốt AI
• Tôi cho rằng giá trị cốt lõi của LLM là khuếch đại sức mạnh của các thông điệp lan truyền trong toàn xã hội. Từ nay, mọi người sẽ bị bao quanh bởi các thông điệp giả người do những thực thể không phải con người gửi ra. Điều đó chứng minh rằng cách duy nhất để kiểm soát internet rốt cuộc là “chôn vùi” nó dưới một lượng thông điệp khổng lồ
  • Nếu hoi polloi ở đây nghĩa là đại chúng, thì trên thực tế đại chúng sẽ chỉ dùng các công cụ đó cho mục đích thương mại, và vẫn sa vào mạng xã hội vì cơn khát tương tác xã hội. Còn nếu nó mang nghĩa tầng lớp tinh hoa, thì họ từ lâu đã dùng con người làm lá chắn để triển khai cách này, và nếu vẫn đủ tiền thì sau này họ cũng sẽ tiếp tục làm như vậy
  • Tôi nghĩ cụm từ “sự khuếch đại sức mạnh” đã diễn đạt rất đúng cốt lõi nỗi lo của tôi
  • Tôi có cảm giác khó tin trước chính thái độ cho rằng tính hữu dụng bản chất của LLM là điều quá “hiển nhiên”, một phần vì quá tự tin vào kiến thức và trí tưởng tượng của bản thân. Nó khiến tôi nhớ đến góc nhìn của những người từng khẳng định bản chất của động cơ hơi nước là gì vào năm 1780
  • Tôi thường xuyên thấy ý kiến cho rằng LLM sẽ được dùng để khuếch đại thông điệp, nhưng tôi không hề xem đó là điều hiển nhiên. Tôi là người hướng nội, chỉ theo dõi một số rất ít cơ quan báo chí và cố ý tránh tương tác trực tuyến. Trước khi mạng xã hội xuất hiện thì kiểu sống như vậy mới là điều phổ biến. Nếu LLM tràn ngập khắp nơi thì chẳng phải chúng ta có thể quay lại kiểu sử dụng mạng nguyên thủy hơn sao? Và dù kiểm soát internet bằng cách chôn vùi nó trong thông điệp là một cách nói, thực tế còn phức tạp hơn vì nhà nước vẫn sẵn sàng chi phí để can thiệp bằng luật pháp
  • Tôi khó đồng ý với lập luận này. Báo chí và truyền thông vốn đã đầy rẫy rác thông tin, còn mức độ tập trung trung bình của con người cũng đã chạm trần. Dù AI có tạo thêm bao nhiêu nội dung tạp nham nữa thì cũng sẽ không tạo ra thay đổi lớn. Cách kiểm soát internet rốt cuộc vẫn là chính phủ trực tiếp đứng ra điều tiết
• Theo tôi, công nghệ càng tinh vi thì càng hàm chứa khả năng đẩy bất kỳ chính phủ nào biến chất thành hình thức độc đoán hay toàn trị hơn. Những người cầm quyền luôn bị cám dỗ mạnh mẽ bởi mong muốn kiểm soát mọi thứ, và kết quả thường là những cách cai trị đất nước và người dân hết sức kinh khủng
• Tách riêng khỏi vấn đề tiêu chuẩn đạo đức của Sam Altman, tôi nghi ngờ liệu có khác biệt bản chất nào giữa các quốc gia dân chủ nhưng lại đàn áp, bạo lực và chiếm đóng người khác (Mỹ, Israel, Ấn Độ) với các quốc gia độc tài ở phía đối diện (Saudi, Trung Quốc, Triều Tiên) hay không
  • Trong bối cảnh những người bị cai trị không có quyền trực tiếp cất tiếng nói, cách gọi “quốc gia dân chủ” tự nó đã rất kỳ lạ
  • Nếu bỏ qua sự khác biệt mà đem so sánh thì sẽ không thể phân biệt được những ranh giới bản chất. Và cách nói đó cũng như thể các nước độc tài chỉ có một số ít nạn nhân, trong khi thực tế có hàng tỷ người dân đang bị áp bức bên trong các quốc gia ấy
• Cá nhân tôi thấy thực tế hơn nhiều nếu kiếm lợi bằng cách làm ăn với UAE thay vì để Trung Quốc hưởng lợi. Việc cố đè nén Trung Đông mãi mãi là điều đã được chứng minh là không hiệu quả. Cuối cùng, xét theo góc nhìn realpolitik thì đây là lựa chọn tốt nhất, giống như một nước đi trong Hearts of Iron ngoài đời thực. Nếu Saudi đằng nào cũng là một chế độ độc tài, thì làm theo cách này bây giờ vẫn có lợi hơn
• Bản thân dân chủ cũng là một cấu trúc không thể vì chính dân chủ. Tôi cho rằng đó đã là một ý tưởng thất bại
• Tôi nhớ trong 1984, ý tưởng cốt lõi là mỗi gia đình đều có một chiếc TV được lắp trong nhà và chiếc TV đó luôn theo dõi con người. Vì việc có ai đó hiểu và giám sát mọi người theo thời gian thực là điều bất khả thi, nên từ trước đến nay nó chỉ là một dạng fantasy phản địa đàng đơn thuần. Nhưng với sự xuất hiện gần đây của LLM/GenAI, giờ chỉ cần một GPU trong mỗi nhà cũng đủ để làm cảnh báo sớm kiểu phát hiện tư tưởng nguy hiểm. Thậm chí có thể thực tế hơn nếu thiết kế sao cho chỉ còn lại lượng tài nguyên tính toán hạn chế. Nếu là AGI thì có lẽ nó còn có thể nghe cả hai phía và giữ được tính trung lập, nhưng các tác nhân LLM một chiều thì không có khả năng đó. Hiện tại OpenAI, Apple và ít nhất 6 công ty khác đang phát triển các thiết bị gia dụng luôn lắng nghe/quan sát dựa trên GenAI mới nhất. AI quan sát toàn bộ cuộc sống để nắm ngữ cảnh cũng có thể biết được sở thích, khuynh hướng chính trị của người dùng, v.v. Chỉ cần sơ sẩy là có thể bị các chính phủ độc đoán lạm dụng một cách triệt để. Trường hợp TikTok suy ra xu hướng tính dục hay mối quan tâm của người dùng gần như theo thời gian thực ngay cả khi không có dữ liệu người dùng cũng đã lộ ra. Các thiết bị dựa trên LLM chỉ cần phân tích thói quen xem TV, nội dung trò chuyện và biểu hiện cảm xúc cũng có thể suy luận ra xu hướng bỏ phiếu, ý định tham gia biểu tình, v.v. Helen Toner đang lo cho nền dân chủ ở một lục địa xa xôi nào đó, nhưng điều khiến tôi sợ hơn là ngay cả nơi được xem là đại bản doanh của dân chủ cũng đã ở rất gần ngưỡng triển khai một xã hội kiểu Orwell. Bước 1: khiến mọi người lắp những thiết bị như vậy trong nhà (đang diễn ra), Bước 2: gây áp lực lên các công ty để dùng những thiết bị đó theo ý giới cầm quyền (phần còn lại)
  • Việc phân loại hành vi theo kiểu nhị phân “nguy hiểm/an toàn” vốn không phải lĩnh vực của generative AI mà từ lâu đã có thể làm bằng machine learning truyền thống hay các mô hình phân loại. Ngay cả không cần LLM thì công nghệ cũng đã đủ, và trên thực tế các mô hình ML truyền thống còn hiệu quả hơn
• Trang Wikipedia của Chris Lehane vẫn chưa được cập nhật đúng với bề dày sự nghiệp thực tế của ông ấy Chris Lehane - Wikipedia Đúng là đỉnh cao của nghề Fixer