Nhiều tổ chức an toàn AI đang cố gắng hình sự hóa AI nguồn mở hiện có

• Đã xuất hiện những phàn nàn trong cộng đồng người dùng LLM rằng các tổ chức an toàn AI đang tìm cách cấm các LLM nguồn mở mà họ đang sử dụng, nhưng cũng có ý kiến cho rằng đây là tin đồn bị lan truyền sai lệch
• Tuy nhiên, nhận định này không đúng. Trên thực tế, nhiều tổ chức an toàn AI đã ủng hộ các dự luật nhằm "hình sự hóa việc mã nguồn mở các mô hình hiện đang tồn tại"
• Một số tổ chức trong số này có nguồn tài trợ dồi dào và ngày càng có kết nối chặt chẽ hơn với các nhà hoạch định chính sách

Các đề xuất dự luật của các tổ chức an toàn AI

• Center for AI Safety: tổ chức được tài trợ dồi dào, tập trung vào nghiên cứu và vận động về an toàn AI, đã đưa ra trong đề xuất quản lý gửi tới NTIA định nghĩa về "hệ thống AI mạnh" và các yêu cầu trên thực tế sẽ cấm việc nguồn mở các hệ thống này.
• Center for AI Policy: nhóm vận động hành lang có trụ sở tại Washington D.C., với quy tắc được đề xuất ban đầu thì ngay cả Llama-2 đã phát hành cũng sẽ phải chịu sự quản lý của một cơ quan mới.
• Palisade Research: tổ chức phi lợi nhuận nhằm mục tiêu trình diễn cụ thể các năng lực nguy hiểm để tư vấn cho nhà hoạch định chính sách và công chúng về rủi ro AI, đã kêu gọi chính phủ dừng phát hành Llama 2.
• The Future Society: viện nghiên cứu với mục tiêu điều chỉnh AI thông qua quản trị tốt hơn, đã đưa ra các yêu cầu nghiêm ngặt cho GPAI "Type 2" và nêu rõ rằng các mô hình nguồn mở sẽ không thể đáp ứng các yêu cầu đó.

Ảnh hưởng của các tổ chức an toàn AI

• Các tổ chức này chỉ là một phần trong số những bên đã nêu rất rõ chính sách hoặc mục tiêu của mình.
• Cũng tồn tại những tổ chức khác có chính sách ít rõ ràng hơn, nhưng cuối cùng vẫn giữ lập trường phản đối việc nguồn mở.
• Nếu các tổ chức an toàn AI từng thông qua được các dự luật như họ mong muốn trước đây, thì những mô hình hiện đang được sử dụng rộng rãi đã bị cấm.
• Các tổ chức này vẫn đang hy vọng thông qua các biện pháp tương tự, trong khi phong trào AI nguồn mở đang ở thế chậm hơn về mặt lập pháp so với họ.

Ý kiến của GN⁺

• Các đề xuất của các tổ chức an toàn AI có nguy cơ hạn chế sự phát triển của AI nguồn mở và củng cố thế độc quyền của doanh nghiệp.
• AI nguồn mở là yếu tố thiết yếu cho nghiên cứu và đổi mới, và việc hạn chế nó có thể gây tác động tiêu cực tới tiến bộ công nghệ.
• Bài viết này cho thấy các ràng buộc pháp lý đối với AI nguồn mở hiện đang được thúc đẩy, và đây là một chủ đề có thể ảnh hưởng quan trọng tới việc dân chủ hóa và khả năng tiếp cận công nghệ AI.

[kuroneko]

Tôi cảm thấy chuyện này xảy ra mỗi khi có công nghệ mới xuất hiện.

[GN⁺]

Ý kiến trên Hacker News

• Có ý kiến chỉ trích rằng các chuyên gia an toàn AI là đạo đức giả. Nếu họ thực hành đúng những gì mình rao giảng, họ sẽ phải kêu gọi cấm mọi AI. Tác hại của AI đã xảy ra bất kể có công khai trọng số hay không, và đặc biệt việc che giấu đạo văn rồi spam Internet bằng cùng một văn bản được diễn đạt lại bằng các từ ngữ khác về mặt kỹ thuật được xem là cách dùng AI sinh lợi nhất.
• Một lý do khác khiến hồi kết của AI mã nguồn mở có thể đang đến gần là nếu dữ liệu huấn luyện bị buộc phải cấp phép thì coi như chấm hết. Nhiều người đang phẫn nộ với OpenAI và Midjourney vì những gì AI mã nguồn mở cần để tồn tại, tức là tinh chỉnh hoặc huấn luyện từ đầu. Ngay khi các chính trị gia biến điều này thành vấn đề chính trị, có vẻ luật sẽ được viết lại để ngăn các công ty tùy ý sử dụng dữ liệu huấn luyện.
• An toàn có nhiều loại. Ví dụ, bảo vệ lợi ích cũng là một dạng an toàn. Có nhiều tổ chức trông giống như những nhà vận động hành lang cho các công ty đang thống trị lĩnh vực AI. Tôi nhớ rằng nỗ lực thực thi giấy phép của Microsoft từng sử dụng chiến lược như vậy.
• Việc gom nhiều ý tưởng khác nhau dưới thuật ngữ an toàn AI là không hữu ích. Ví dụ có đầu ra “an toàn” theo nghĩa đúng đắn chính trị, không có nội dung khiêu dâm, thao túng xã hội/bầu cử trên diện rộng, hay sự diệt vong của nhân loại do AI mạnh gây ra; ba điều này hầu như không có điểm chung, khiến mọi cuộc thảo luận trở nên kém hiệu quả.
• Chính phủ biết rằng “AI”, khi người bình thường có thể sử dụng mà không cần sự kiểm soát và giám sát của họ, sẽ làm giảm khả năng mở rộng quyền lực của họ. Như bài viết cho thấy, các “think tank” này đã đặt nền móng để ngăn một phiên bản lặp lại của Llama 2. Điều chúng ta cần là một Stallman của AI, và các mô hình AI FOSS nên trở thành một phong trào giống như phong trào từng được thúc đẩy cho FOSS UNIX trong thập niên 80 và 90. Nhưng khi tôi viết cho Stallman về chủ đề này, ông ấy tỏ ra không quan tâm hoặc có thái độ bi quan, và phần lớn phớt lờ ý tưởng GPL cho trọng số mô hình.
• Phần lớn các chuyên gia an toàn AI dường như thực sự tin mạnh mẽ vào những gì họ rao giảng. Việc họ có đúng hay không lại là một cuộc tranh luận hoàn toàn khác. Tuy nhiên, nguồn tài trợ cho an toàn AI rõ ràng phần nào được thúc đẩy bởi chiếm dụng cơ quan quản lý hoặc một dạng bảo hộ nào đó.
• Đừng đánh giá thấp ham muốn tự tái tạo của các hệ thống kiểm soát hoặc quyền lực hiện hữu.
• Có nhiều nhà nghiên cứu an toàn AI làm việc với thiện chí, nhưng cũng thấy sự đạo đức giả về an toàn bộc lộ tiêu chuẩn kép kiểu “AI thì tôi được dùng, còn bạn thì không”.
• Cấp phép dữ liệu sẽ là một nút thắt cổ chai lớn.
• Các kết quả không kiểm duyệt sẽ bị dùng để gây bất lợi cho các mô hình mã nguồn mở trong những câu hỏi thuộc vùng tối hoặc vùng xám.
• Có khoảng cách lớn về năng lực tính toán và quy mô mô hình giữa mô hình mã nguồn mở và mã nguồn đóng. 7B thuộc về phía mã nguồn mở, còn phía mã nguồn đóng sẽ lớn hơn nhiều.
• Việc các tổ chức này đặt tên các ngưỡng FLOP và lấy MMLU làm thước đo đánh giá liên quan có phần nực cười. Trông như nhiều tổ chức đã sao chép và dán các ngưỡng tương tự nhau. Khi chi phí tính toán ngày càng rẻ hơn, các ngưỡng này cũng sẽ ngày càng rẻ hơn. Có lẽ sau này chúng ta sẽ nhìn lại điều này như một cách tiếp cận hẹp hòi và thiển cận.