Mỹ và Anh từ chối ký tuyên bố an toàn AI tại hội nghị thượng đỉnh Paris
(arstechnica.com)- Tại AI Action Summit ở Paris, khoảng 60 quốc gia đã nhất trí với tuyên bố chung về an toàn AI, nhưng Mỹ và Anh không ký, cho thấy rạn nứt xoay quanh quy định AI và quyền dẫn dắt ngành
- Tuyên bố nêu các nguyên tắc rằng AI phải mở, bao trùm, minh bạch, có đạo đức, an toàn, bảo mật và đáng tin cậy, nhưng không có tính ràng buộc pháp lý
- Phó tổng thống Mỹ JD Vance nhấn mạnh rằng quy định AI không nên “kìm hãm” phát triển công nghệ, đồng thời nêu lập trường sẽ xây dựng những hệ thống AI mạnh nhất tại Mỹ bằng chip sản xuất ở Mỹ
- Một nguồn tin thân cận với chính phủ Anh cho rằng câu chữ của tuyên bố là “quá hạn chế”, và một quan chức từ nước ký kết cho biết Mỹ không đồng ý với cách diễn đạt về chủ nghĩa đa phương và hợp tác quốc tế
- Châu Âu đang mở rộng nền tảng công nghiệp AI để giảm phụ thuộc vào Mỹ và Trung Quốc, và tại hội nghị đã công bố kế hoạch đầu tư khoảng 200 tỷ euro vào trung tâm dữ liệu và cụm điện toán
Rạn nứt ký kết bộc lộ tại hội nghị thượng đỉnh AI ở Paris
- Mỹ và Anh đã không ký vào tuyên bố chung của AI Action Summit tổ chức tại Paris
- Khoảng 60 quốc gia đã đồng thuận với tuyên bố chung, trong đó nêu mục tiêu làm cho công nghệ AI trở nên “an toàn, được bảo mật và đáng tin cậy”
- Tuyên bố cũng bao gồm các nguyên tắc rằng AI phải mang tính mở, bao trùm, minh bạch và có đạo đức
- Có câu chữ đề cập đến việc xem xét một khuôn khổ quốc tế cho tất cả mọi người
- Cam kết này không mang tính ràng buộc, nhưng Mỹ và Anh trước đây từng ký những tuyên bố tương tự tại các hội nghị AI trước đó
Trọng tâm của Mỹ là vị thế dẫn đầu AI hơn là quy định
- Phó tổng thống Mỹ JD Vance cảnh báo châu Âu không nên áp dụng các quy định AI “quá thiên về phòng ngừa”
- Vance cho biết chính quyền Trump sẽ bảo đảm rằng các hệ thống AI mạnh nhất được xây dựng tại Mỹ
- Lập trường là các hệ thống đó phải sử dụng chip do Mỹ thiết kế và sản xuất
- Điều này được hiểu là thông điệp rằng Mỹ sẽ duy trì vị thế thống trị trong công nghệ AI
- Ông lập luận rằng chế độ quản lý quốc tế phải thúc đẩy việc tạo ra công nghệ AI chứ không được đè nén nó
- Keegan McBride của Oxford Internet Institute đánh giá bài phát biểu của Vance là một “cú xoay 180 độ” so với thời chính quyền Biden
Bất đồng giữa Mỹ và Anh quanh câu chữ của tuyên bố
- Lập trường cứng rắn của Mỹ gắn với xu hướng “America First” của chính quyền Trump
- Một nguồn tin thân cận với chính phủ Anh cho rằng câu chữ của tuyên bố là “quá hạn chế”
- Một quan chức từ một trong các nước ký kết cho biết Mỹ không đồng ý với những diễn đạt liên quan đến chủ nghĩa đa phương và hợp tác quốc tế
- Trong tuyên bố chung, tăng cường hợp tác quốc tế được nêu là ưu tiên nhằm thúc đẩy điều phối quản trị quốc tế
- Cũng theo nguồn tin đó, Mỹ còn bày tỏ lo ngại về Current AI, sáng kiến được Pháp khởi động tại hội nghị
- Lo ngại là Current AI có thể được dùng để chuyển dòng tiền sang các quốc gia nói tiếng Pháp
Cạnh tranh với Trung Quốc và căng thẳng do DeepSeek tạo ra
- Lập trường cứng rắn của Mỹ xuất hiện trong bối cảnh cạnh tranh với Trung Quốc quanh AI ngày càng gay gắt
- Phạm vi cạnh tranh đã mở rộng từ sản xuất chip, mô hình nền tảng, chatbot AI đến cả năng lượng cần thiết để cấp điện cho siêu máy tính
- Phòng thí nghiệm ít được biết đến của Trung Quốc là DeepSeek đã tung ra mô hình AI giá rẻ, khiến các công ty ở Silicon Valley chấn động
- Các công ty như OpenAI từng cho rằng họ đang nắm lợi thế rất mạnh
- Vance cảnh báo không nên hợp tác với các “chế độ độc đoán” trong các thỏa thuận AI, gián tiếp nhắm đến Trung Quốc
- Ông nêu CCTV và 5G làm ví dụ trước đây, nói rằng các chế độ độc đoán đã xuất khẩu công nghệ giá rẻ được trợ cấp mạnh
- Ông cho rằng những sự hợp tác như vậy sẽ trói buộc các quốc gia vào các chủ thể độc đoán đang tìm cách xâm nhập và kiểm soát hạ tầng thông tin
Phản ứng của châu Âu: xây dựng nền tảng công nghiệp AI riêng
- Châu Âu đang tìm cách tạo chỗ đứng trong ngành AI để giảm phụ thuộc vào Mỹ hoặc Trung Quốc
- Tại hội nghị thượng đỉnh kéo dài hai ngày do Tổng thống Pháp Emmanuel Macron chủ trì, các lãnh đạo và doanh nghiệp châu Âu đã công bố kế hoạch đầu tư khoảng 200 tỷ euro
- Khoản đầu tư này nhắm vào trung tâm dữ liệu và các cụm điện toán nhằm hỗ trợ nỗ lực AI của châu Âu
- Frederike Kaltheuner của AI Now Institute cho biết sau khi DeepSeek phát hành mô hình mở mạnh mẽ, người châu Âu cảm thấy mình có một cơ hội ngắn ngủi để cạnh tranh trong AI
- McBride đánh giá rằng không khí tại hội nghị Macron nghiêng về việc thúc đẩy một phương án thay thế cho sự phát triển AI do Mỹ dẫn dắt, nhưng phát biểu của Vance đã dội gáo nước lạnh vào bầu không khí đó
1 bình luận
Các ý kiến trên Hacker News
Một phần của cuộc sống trong vài thập kỷ tới do tăng tốc công nghệ dẫn dắt có lẽ sẽ giống cảm giác bị cắt thùy trán khi vẫn còn tỉnh táo và phải chứng kiến toàn bộ quá trình
Ta có thể nghĩ ra hàng nghìn kịch bản giả định về việc ngay cả công nghệ chưa đạt đến AGI hoàn chỉnh cũng có thể đi chệch hướng một cách thảm họa và tranh luận không ngừng, nhưng tiến trình theo hướng đó rốt cuộc vẫn không chậm lại hay dừng lại
Chỉ cần một nhóm duy nhất có đủ trí tuệ tập thể và đột phá, AI tiếp theo có thể được giao đến tận cửa nhà chúng ta, dù chúng ta có muốn hay không
Giống như trải nghiệm đọc những cuốn sách thời thơ ấu vốn đang truyền tải những thông điệp quan trọng về cuộc đời, nhưng phải 20 năm sau mới hiểu ra ý nghĩa. Thông điệp đã ở ngay đó, nhưng khi ấy ta thiếu trí tuệ cảm xúc và nhận thức để tiếp nhận
Khi máy in được phát minh cũng có những người mang cùng bầu không khí như vậy, và rốt cuộc họ đã sai. Nếu làm theo “bài học” của họ, xã hội loài người đã tệ hơn rất nhiều
Việc những phê phán AI/AGI hiện nay có xác đáng hay không, cuối cùng chỉ có thể biết sau khi sự việc đã xảy ra
Đặc biệt trong ngành công nghệ, có quá nhiều người không mấy bận tâm chuyện gì xảy ra với người khác miễn là bản thân kiếm được tiền. Họ sẵn sàng hy sinh người khác và cũng không muốn chia sẻ phúc lợi ngay trong cộng đồng của mình
Đây là hệ quả tất yếu khi xã hội ít niềm tin thẩm thấu vào xã hội nhiều niềm tin; và khi các công nghệ có hàm ý nguy hiểm cho xã hội càng lan rộng, sẽ có đủ người làm việc vì sự suy tàn của xã hội, nên không có hy vọng thực tế nào rằng chuyến tàu này sẽ dừng lại
Hiện việc huấn luyện AI cần nhiều phần cứng, nhưng chỉ với laptop và Internet vẫn có thể làm nghiên cứu và đổi mới tối tân ở mảng kiến trúc và thuật toán
Ngay cả khi thông qua luật nói rằng “phát triển AI là bất hợp pháp”, cũng khó hình dung sẽ thực thi nó như thế nào
Nỗi sợ trong tưởng tượng không phải là nỗi sợ có thật. Tôi không đồng ý với cách tiếp cận của chính quyền hiện tại, cần cảnh giác, và việc những người sẽ thu lợi khổng lồ từ công nghệ đó có mặt trong cuộc thảo luận cũng không có vẻ hay ho
Nhưng ngoài những điều đó, tôi vẫn chưa thấy lý do thực tế nào để làm hơn việc chờ đợi trong cảnh giác
Chắc hẳn không ai muốn bị mắc kẹt trong một quốc gia cấm AI, đặc biệt là AI của các nước khác, rồi mất sức cạnh tranh trong thế giới mới nổi
Tương lai sẽ khó khăn, vậy tại sao lại tự trói một tay của mình. Thận trọng khác với sợ hãi
AI khác với phân hạch hạt nhân. Không thể phát hiện từ xa liệu ai đó có đang huấn luyện AI hay không, và đã quá muộn để cô lập thông tin liên quan đến AI như với việc làm giàu uranium
Thiết bị cần để huấn luyện AI rẻ và phổ biến. Những “tuyên bố an toàn” kiểu này là tuyên bố không có nanh vuốt và cũng không thể thực thi
Không thể dừng AI, mà phải thích nghi. Video và ảnh sẽ sớm mất giá trị làm bằng chứng, và ta nên coi trọng các mối quan hệ con người ngoài đời hơn quan hệ trực tuyến, vì ta có thể biết đối phương là người thật
Đó là điều đáng tiếc, nhưng trong những thứ AI “phá hủy” không có thứ nào đã tồn tại từ 200 năm trước, và con người sẽ thích nghi như vẫn luôn vậy. Như lời phản diện Toyo Harada trong truyện tranh: “Không ai trong các ngươi có thể ngăn ta. Dù là cá nhân hay tập thể”
Có khả năng nó sẽ được bắt buộc bằng pháp luật vì những lý do và theo cách tương tự như việc Nhật Bản bắt buộc âm thanh màn trập trên máy ảnh kỹ thuật số
200 năm trước dân số Trái Đất khoảng 1 tỷ người, nhưng nay khoảng 8 tỷ người. Những người theo chủ nghĩa vô chính phủ nguyên thủy hay thuyết giảm tăng trưởng cũng thường gạt qua tiến bộ của 200 năm qua theo cách tương tự, nhưng tiến bộ đó rất quan trọng trong việc chống đỡ các hệ thống giúp nhiều người sống sót
Dù vậy, các hiệp định quốc tế về việc không sử dụng vũ khí hóa học đã được duy trì tốt đến mức đáng ngạc nhiên
Nơi sẽ phát sinh hỗn loạn là không gian công cộng. Những thế hệ sinh ra đại khái từ trước năm 1975 đến nay, khi nhìn thấy hình ảnh mà họ muốn tin, sẽ không thể suy nghĩ phản biện, gây ra khoảng một thế hệ hỗn loạn
Nếu cấm các dịch vụ dựa trên AI như ChatGPT, cũng có thể giảm động lực kinh tế để đầu tư tiền vào những hoạt động huấn luyện như vậy
Một sáng kiến gần đây hơn là https://c2pa.org/
Toàn bộ các cuộc thảo luận về an toàn AI này chẳng qua chỉ là việc các công ty như OpenAI xây hào bảo vệ để ngăn các đối thủ mới nổi như DeepSeek
LLM sẽ không dẫn tới AGI. Còn không đến gần được. Việc Altman nói về những rủi ro như vậy cũng giống như Musk nói về taxi tự lái
Tất nhiên đúng là một công nghệ ấn tượng. Có vẻ một ngày nào đó LLM có thể giúp năng suất của những người làm các công việc phải tương tác với máy tính cả ngày tăng gấp 10 lần
Họ hoàn toàn không nói những điều này để tạo hào bảo vệ cho OpenAI. Ngay từ đầu, lúc đó OpenAI còn chưa tồn tại, AI cũng chưa hề gần với trình độ hiện nay, và gần như tất cả mọi người đều xem lập luận của họ là lố bịch
Bạn có thể không đồng ý, nhưng đơn giản gạt đi rằng đó chỉ là lập luận nhằm chống lưng cho các công ty AI hiện hữu là sai và không trung thực
Với những đối tượng mà LLM có thể tiếp nhận như giác quan, xét theo mọi mô tả thì nó thông minh hơn rất nhiều so với con người trung bình
Nếu là cường quốc thống trị thế giới thì sẽ không để nước khác định đoạt chiến lược của mình. Đơn giản vậy thôi
Nỗ lực kiềm chế AI sẽ đến từ phía đang thua trong cuộc cạnh tranh. Như trong cuộc phỏng vấn mà Edward Teller hồi tưởng, Liên Xô đã dùng lệnh hoãn thử nghiệm hạt nhân để bắt kịp Mỹ về bom hydro, và Teller chính là người đã nói với các nhà khoa học lý tưởng chủ nghĩa rằng chuyện đó sẽ xảy ra
Ai cũng biết Trung Quốc đã gần như bắt kịp Mỹ ở hầu hết mọi mặt, và sắp vượt lên ở phần còn lại. Chỉ nhìn DeepSeek thôi cũng thấy hiệu quả ngang OpenAI nhưng chi phí thấp hơn nhiều. Còn có Baidu, Alibaba AI, v.v.
Kinh tế Trung Quốc đang trên quỹ đạo vượt Mỹ trong vòng 5 năm, vậy mà họ vẫn ký thỏa thuận đó. Thực ra hầu hết các nước đều ký, Ấn Độ cũng vậy
Đây không phải là tình huống kẻ thua đặt ra luật chơi mới, mà là các nước lớn đang thảo luận cách xử lý tình hình này, còn những nước tự cho mình quá giỏi thì trông có vẻ đang tụt lại
Tuy vậy, những nỗ lực đó cũng chỉ mang tính biểu tượng, và các bên liên quan cũng biết điều đó. Chúng chỉ là nỗ lực tỏ ra như đang làm gì đó trước những người tiêu thụ thông tin ngây thơ, tức những kẻ ngốc hữu dụng
Dù đã bỏ lỡ thập niên 80, nhưng với tư cách một “hacker” đã trải qua thập niên 90 và 00, dòng chảy các cuộc trò chuyện quanh AI khiến tôi vô cùng buồn và khó chịu
Hãy thử tưởng tượng nói với các hacker thời trước rằng trên một trang tên là “hacker news”, người ta sẽ tranh luận rằng chính phủ nên hình sự hóa việc chạy mã trên máy tính của chính mình
Điều này xung đột trực diện, cả về đạo đức lẫn triết lý, với mọi thứ đã khiến tôi say mê máy tính. Tôi tự hỏi liệu mọi người thật sự tin như vậy, hay đây là một câu chuyện tinh vi thuận tiện cho một số công ty và chính trị gia
Quy định AI của EU hay những thảo luận tôi từng thấy cũng không có nội dung hạn chế bản thân việc hack AI
Quy định bàn về việc áp dụng trong doanh nghiệp/chính phủ và các trường hợp sử dụng thực tế. Chẳng hạn không để AI không có bên chịu trách nhiệm đưa ra quyết định tuyển dụng cuối cùng, cấm nhận diện khuôn mặt diện rộng ở nơi công cộng, yêu cầu minh bạch khi dùng AI trong các lĩnh vực rủi ro cao như y tế, giáo dục, tư pháp, và cấm AI mang vũ khí
Vì đã nói đến đạo đức, tôi hỏi: nên áp dụng đạo đức nào cho AI? Không có gì cả, chỉ một phần, hay đạo đức như con người? Nếu AI thay thế con người trong việc ra quyết định thì nó phải chịu trách nhiệm như con người
Các quốc gia sở hữu AGI không bị giới hạn rất có khả năng sẽ vượt xa về mặt công nghệ
Ngược lại, những quốc gia tự đặt ràng buộc sẽ mắc kẹt ở “thời kỳ đồ đá” trong lĩnh vực đó
Nói chung, các quốc gia nơi thu nhập của giới tinh hoa phụ thuộc vào lao động của người dân thường tạo ra kết quả tốt hơn cho số đông so với các quốc gia không như vậy. Cứ nhìn các nước đang phát triển có trữ lượng dầu mỏ dồi dào là thấy
AGI sẽ dẫn đến điều gì? Giống như lao động sản xuất đã bị thay thế, phần lớn lao động tri thức cũng sẽ bị thay thế, và giới tinh hoa hiện hữu sẽ kiểm soát AGI. Nó có thể được dùng để đàn áp nổi loạn mãi mãi bằng hệ thống giám sát hoàn toàn tự động và hiện diện khắp nơi
Đây thực sự không phải là thứ đáng hướng tới
[1]: https://en.wikipedia.org/wiki/Resource_curse
Một ngày nào đó nó có thể tồn tại. Nhưng “AI” hiện nay không thể trở thành AGI, và cũng không có con đường nào để tiến tới đó
Không nên tin nguyên xi câu chuyện đó. Quy định của EU không phải để cấm AGI, mà là để buộc công nghệ, khi tồn tại, phải giữ một mức phẩm giá tối thiểu. Người Mỹ dường như gần như dị ứng chết người với những thứ như vậy
Giờ đây, chỉ vài năm sau, chúng ta đang nghiêm túc nghĩ đến tình huống một phần thế giới chấp nhận AI còn phần khác thì không
Việc áp dụng từng phần như vậy có thể dự đoán được, nhưng tôi không nghĩ chúng ta sẽ tranh luận về nó nhanh đến thế
Có thể hiểu rằng “tuyên bố” này không phải là cam kết hành động cụ thể không? Nếu vậy thì tôi không hiểu vì sao việc ai ký hay không ký lại quan trọng
Mức độ cụ thể cũng chẳng khá hơn mấy. Nó dài khoảng một trang rưỡi, danh sách quốc gia dài ngang chính bản tuyên bố, và về cơ bản nội dung là “chúng tôi đã nói rằng chúng tôi sẽ không làm điều xấu”
Họ đúng. Tuyên bố đó vô dụng và chỉ là công cốc
Châu Âu thực sự rất thích ký các tuyên bố và thư bày tỏ quan ngại. Dù họ có ký thì cũng chẳng tạo ra khác biệt gì
Những tuyên bố kiểu “đừng trở nên xấu xa” này thường là cử chỉ vô nghĩa
Những bên ngoài lề vốn dù sao cũng sẽ không tham gia phô trương cảm giác vượt trội về đạo đức, nhưng không tác động gì đến dòng chảy thực tế
Hiệp ước Ottawa cũng tương tự. Các nước không ký gồm Mỹ, Trung Quốc, Nga, Pakistan, Ấn Độ, Ai Cập, Israel, Iran, Cuba, Triều Tiên và Hàn Quốc, v.v. Tức là ngay từ đầu tất cả các nước có khả năng dùng mìn đều vắng mặt
Khi tình huống thực sự xảy ra, ngay cả một nước đã ký như Ukraine cũng sẽ dùng mìn. Vì phòng vệ quốc gia quan trọng hơn việc giữ một tờ giấy và cảm thấy mình vượt trội về đạo đức