Những lo ngại về phát triển mã nguồn mở
- Định nghĩa quá rộng: định nghĩa về "mô hình thuộc phạm vi áp dụng" trong dự luật quá rộng, nên có thể bao trùm cả nhiều mô hình mã nguồn mở chỉ mang rủi ro tối thiểu. Điều này có thể vô tình hình sự hóa hoạt động của các nhà phát triển thiện chí đang làm việc cho những dự án AI hữu ích.
- Tính lưỡng dụng: mô hình AI là phần mềm thông dụng chạy trên máy tính, giống như trình xử lý văn bản, máy tính cầm tay hay trình duyệt web. Nhà tạo ra mô hình không thể bảo đảm mô hình sẽ không bị dùng cho mục đích có hại. Điều này cũng đúng với các nhà phát triển trình duyệt web, máy tính cầm tay và trình xử lý văn bản. Việc quy trách nhiệm cho người tạo ra các công cụ đa dụng như vậy trên thực tế đồng nghĩa rằng ngoài đội ngũ pháp lý của các tập đoàn lớn ra thì sẽ không ai có thể tạo ra những công cụ đó.
- Yêu cầu mang tính hạn chế: dự luật này áp đặt gánh nặng đáng kể lên nhà phát triển, như bắt buộc đóng hệ thống, báo cáo trên diện rộng và tuân thủ các "chỉ dẫn áp dụng" có khả năng mơ hồ. Những yêu cầu này có thể tác động bất cân xứng đến các nhà phát triển mã nguồn mở vốn thiếu nguồn lực để điều hướng các quy trình quản lý phức tạp.
- Cản trở tính mở: lo ngại về chế tài pháp lý và rào cản quan liêu có thể làm chùn bước phát triển mã nguồn mở, từ đó làm suy yếu tinh thần hợp tác vốn là động lực của tiến bộ AI. Sự suy giảm minh bạch này cũng có thể khiến việc nhận diện và xử lý các vấn đề an toàn tiềm ẩn trở nên khó khăn hơn.
Tác động đến doanh nghiệp vừa và nhỏ và đổi mới
- Rào cản gia nhập: chi phí đáng kể liên quan đến tuân thủ (phí, kiểm toán, tư vấn pháp lý, v.v.) có thể tạo ra rào cản gia nhập lớn đối với doanh nghiệp vừa và nhỏ cũng như startup. Điều này hạn chế cạnh tranh, tập trung quyền lực vào các tập đoàn lớn hiện hữu và cuối cùng kìm hãm đổi mới.
- Hiệu ứng làm lạnh đối với nghiên cứu: nỗi sợ vô tình vi phạm các điều khoản của dự luật có thể khiến các nhà nghiên cứu và nhà phát triển tự kiểm duyệt hoặc tránh khám phá những lĩnh vực nghiên cứu AI đầy hứa hẹn. Điều này sẽ cản trở tiến bộ khoa học và hạn chế tiềm năng của AI trong việc giải quyết các vấn đề xã hội.
- Chảy máu nhân tài: môi trường mang tính hạn chế do dự luật này tạo ra có thể đẩy các nhà nghiên cứu và nhà phát triển AI giỏi rời khỏi bang California, gây hại cho kinh tế bang và làm suy yếu vị thế dẫn đầu đổi mới AI của bang.
Cách tiếp cận thay thế
- Hỗ trợ phát triển mã nguồn mở: khuyến khích và thúc đẩy phát triển mã nguồn mở cho các mô hình AI nhằm tăng cường hợp tác, minh bạch và xây dựng một hệ sinh thái AI đa dạng, bền bỉ hơn.
- Tập trung vào cách dùng thay vì phát triển: thay vì quản lý việc phát triển mô hình AI, hãy tập trung vào các ứng dụng, đặc biệt là những ứng dụng gây rủi ro cao cho an toàn và an ninh công cộng. Hãy quản lý việc sử dụng AI trong các lĩnh vực rủi ro cao nơi khả năng gây hại lớn nhất như y tế, tư pháp hình sự và hạ tầng trọng yếu, để quy trách nhiệm cho việc sử dụng có hại nhưng vẫn cho phép công nghệ AI tiếp tục phát triển.
- Thúc đẩy minh bạch và hợp tác: khuyến khích xây dựng và áp dụng các thông lệ tốt nhất cho phát triển AI có trách nhiệm thông qua hợp tác giữa doanh nghiệp, học thuật và chính phủ. Điều này có thể bao gồm thiết lập tiêu chuẩn ngành, nuôi dưỡng phát triển mã nguồn mở và đầu tư vào nghiên cứu an toàn AI.
- Đầu tư vào năng lực chuyên môn AI: cung cấp nguồn lực để các cơ quan chính phủ có thể phát triển chuyên môn về AI và xây dựng năng lực giám sát, xử lý rủi ro tiềm ẩn một cách hiệu quả. Nhờ đó có thể hình thành cách tiếp cận quản lý AI có cơ sở thông tin hơn và tinh tế hơn, cân bằng giữa an toàn và đổi mới.
Ý kiến của GN⁺
- Thay vì quản lý việc phát triển các mô hình mã nguồn mở, cơ quan quản lý nên đóng vai trò khuyến khích và giám sát phát triển mã nguồn mở. Mã nguồn mở không chỉ thúc đẩy minh bạch và hợp tác mà còn mang lại nhiều góc nhìn đa dạng, nên thậm chí có thể giúp tăng mức độ an toàn.
- Thay vì quản lý chính bản thân mô hình AI, sẽ hiệu quả hơn nếu giám sát và quản lý việc ứng dụng AI trong các lĩnh vực rủi ro cao. Việc ứng dụng AI trong các lĩnh vực có mức độ rủi ro cao như y tế, tư pháp và an toàn công cộng cần có hướng dẫn và quy định nghiêm ngặt, nhưng ở các lĩnh vực rủi ro thấp thì nên quản lý theo cách không cản trở sự phát triển của công nghệ AI.
- Dự luật này có nguy cơ khiến California mất vị thế dẫn đầu trong lĩnh vực AI do tạo gánh nặng quá mức lên phát triển AI. Cần tìm kiếm các cách tiếp cận thay thế để vừa không cản trở đổi mới vừa có thể quy trách nhiệm cho các cách sử dụng có hại.
- Chính phủ cần nâng cao chuyên môn về AI và tăng hiểu biết về hệ sinh thái AI để triển khai các chính sách quản lý khôn ngoan hơn. Thay vì chỉ siết chặt quản lý, có vẻ cần nỗ lực định hướng theo hướng tích cực thông qua hợp tác giữa nhà nước, học thuật và doanh nghiệp.
1 bình luận
Ý kiến Hacker News
Nhà phát triển mô hình, cũng như nhà phát triển trình duyệt web, máy tính hay trình xử lý văn bản, không thể bảo đảm tuyệt đối rằng mô hình sẽ không bị dùng vào mục đích gây hại. Việc quy trách nhiệm cho những người tạo ra công cụ đa dụng như vậy trên thực tế chỉ khiến các công ty lớn có đội ngũ pháp lý mới có thể làm được.
Các chính trị gia đang phản ứng rất mạnh với AI mã nguồn mở. Soros nói rằng sự cộng hưởng giữa các dự án AI của doanh nghiệp và chính phủ có thể trở thành mối đe dọa còn lớn hơn cả các nhà độc tài thời Chiến tranh Lạnh. Ông cho rằng “sự kết hợp giữa chế độ độc tài và các tập đoàn độc quyền CNTT là mối đe dọa chết người, vì nó tạo ra lợi thế cố hữu trước các xã hội mở”.
Dù không được nhắc trong bài blog, dự luật SB-1047 đã được giới thiệu tại cơ quan lập pháp bang California vào ngày 7 tháng 2 năm 2024. Mục tiêu là quản lý việc phát triển và sử dụng các mô hình AI tiên tiến, buộc nhà phát triển phải thực hiện đánh giá an toàn, tuân thủ các yêu cầu an toàn, báo cáo sự cố và đồng thời thành lập một cơ quan giám sát mới trực thuộc bộ công nghệ.
Có lo ngại rằng các quy định như vậy sẽ có lợi cho những công ty AI đang dẫn đầu hiện nay và khiến người mới gần như không thể gia nhập. Chính sách nhà ở của Scott Wiener thì tốt, nhưng dự luật này là sự can thiệp quá mức của chính phủ.
Chỉ được phép huấn luyện trên những gì chính phủ cho phép, lại còn xuất hiện bộ phận mới và quyền thu phí, rồi dĩ nhiên cả việc gần như bắt buộc phải thuê tư vấn.
Về lâu dài, bang nào sẽ có lợi cho startup AI? Có lẽ không phải California. Washington hay Texas hiện vẫn chưa có động thái siết quy định và có vẻ còn có những lợi thế riêng.
Định nghĩa về “mô hình thuộc diện áp dụng” khá mơ hồ. Phép toán int và float có chi phí tính toán rất khác nhau, nên câu chữ của luật có thể để lại nhiều khoảng trống cho việc diễn giải tại tòa. Dường như họ đang cố đóng khung tương lai theo chuẩn benchmark hiện tại, bất chấp các tiến bộ về thuật toán.
Bài này có chất lượng thấp, như thể được LLM tạo ra. Nếu muốn hiểu đúng dự luật thì nên đọc phần phân tích của Zvi.
Toàn bộ bài viết tạo cảm giác như do ChatGPT viết. Nó chỉ nói chung chung về giá trị của mã nguồn mở mà thậm chí còn không trích dẫn dự luật gốc.
Có ý kiến cho rằng “thay vì quản lý việc phát triển AI model, hãy quản lý việc ứng dụng chúng, đặc biệt trong những lĩnh vực có rủi ro với an toàn công cộng”. Tức là nên quản lý việc dùng AI trong các lĩnh vực rủi ro cao như y tế, tư pháp hình sự, hạ tầng trọng yếu để truy trách nhiệm với việc sử dụng gây hại, trong khi vẫn cho phép công nghệ AI tiếp tục phát triển. Có phản biện nào với quan điểm này không?