- Thống đốc California Gavin Newsom đã phủ quyết dự luật an toàn AI SB 1047, khiến cuộc tranh luận về phạm vi quản lý AI tiếp tục diễn ra
- Trọng tâm lý do phủ quyết là dự luật chỉ áp dụng cho các mô hình AI lớn nhất và tốn kém nhất, nên phạm vi quá hẹp
- Newsom cho rằng dự luật không xét đến việc mô hình có được triển khai trong các tình huống rủi ro cao hay không
- OpenAI và Meta phản đối dự luật, trong khi các nhà khoa học nghiên cứu nổi tiếng từng phát triển công nghệ AI lại ủng hộ
- Newsom có lập trường muốn thúc đẩy các quy tắc AI toàn diện hơn SB 1047
Quyết định phủ quyết và các bên liên quan
- Thống đốc California Gavin Newsom đã phủ quyết dự luật an toàn AI gây tranh cãi SB 1047
- Dự luật này là vấn đề khiến các công ty công nghệ lớn và các nhà khoa học nghiên cứu nổi tiếng từng phát triển công nghệ AI đối đầu với nhau
- OpenAI và Meta phản đối dự luật, còn các nhà khoa học nghiên cứu thì ủng hộ
Phạm vi dự luật và lý do phủ quyết
- Trong thông điệp phủ quyết, Newsom nhận định phạm vi áp dụng của dự luật còn hạn chế
- Dự luật chỉ áp dụng cho các mô hình AI lớn nhất và tốn kém nhất
- Không xét đến việc mô hình AI có được triển khai trong các tình huống rủi ro cao hay không
- Newsom muốn có các quy tắc AI toàn diện hơn dự luật này
1 bình luận
Ý kiến trên Hacker News
https://www.wsj.com/tech/ai/californias-gavin-newsom-vetoes-...
Quyết định của Newsom là rất đúng đắn. Cơ quan lập pháp California rất năng nổ, nhưng vài năm gần đây đã quá sa đà vào kiểu làm luật chạy theo trào lưu; tôi ủng hộ chương trình nghị sự của Wiener, đặc biệt là chính sách nhà ở, nhưng dự luật này thì hoàn toàn chệch hướng.
Về thực chất, đây là một quả ngư lôi nhắm vào mô hình mở, còn các công ty dẫn đầu như OpenAI hay Anthropic thì không quá lo về dự luật này hay về mô hình mở nói chung. Những người ủng hộ gần với kiểu các tay chơi đến sau như Musk muốn dọn bớt nhóm xếp dưới, hoặc những bên như thế lực thù địch với phương Tây và các chủ sở hữu bản quyền thận trọng, những người phản đối AI mà họ không kiểm soát được: https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-off...
Ngoài ra, OpenAI cùng với Google và Meta đã dẫn đầu sự phản đối có tổ chức đối với dự luật này, trong khi Anthropic lại là một bên ủng hộ chủ chốt
Tôi cho rằng LLM có tương lai sáng, đặc biệt khi ngày càng có thêm phần cứng chuyên dụng được tạo ra. Phần lớn vấn đề có thể do thị trường giải quyết, còn chính phủ nên can thiệp khi mọi thứ đi sai hướng hoặc khi độc quyền và lạm dụng trở nên rõ ràng, chứ không nên hành động dựa trên những suy đoán quá rộng từ hai thái cực
https://legiscan.com/CA/text/SB1047/id/3019694
Dự luật này có vẻ sẽ biến việc cung cấp trọng số mở cho các mô hình vượt quá một quy mô nhất định thành bất hợp pháp, buộc bên bán tài nguyên tính toán đủ để huấn luyện các mô hình đó phải kiểm tra xem khách hàng có định phớt lờ luật và huấn luyện mô hình hay không, đồng thời áp đặt yêu cầu kiểm toán để chứng minh rằng mô hình sẽ không hỗ trợ thảm họa và có thể bị tắt đi
Và đoạn “phải có thể bị tắt đi” khiến tôi có cảm giác các nhà lập pháp nên hành động trong thực tế, chứ không phải trong một tập phim Star Trek
Rất khó giao quyền lực cho người này, và đây cũng không phải lần đầu ông ta thúc đẩy những đạo luật lố bịch như vậy. Ví dụ điển hình là ông ta đứng sau AB2098, một đạo luật rõ ràng vi hiến, và cơ quan lập pháp bang California đã âm thầm bãi bỏ nó trước khi bị tòa án bác bỏ: https://finance.yahoo.com/news/ncla-victory-gov-newsom-repea...
https://www.sfchronicle.com/opinion/openforum/article/COVID-...
Đây không phải vấn đề đảng phái. Bất kể khuynh hướng chính trị hay quan điểm của bạn về “an toàn AI” là gì, bạn cũng nên muốn có một đại diện thận trọng hơn thay vì kiểu phô trương bản thân thông qua năng lực phán đoán tệ hại và hoạt động lập pháp như thế này
Các bài liên quan. Còn nữa không?
OpenAI, Anthropic, Google employees support California AI bill - https://news.ycombinator.com/item?id=41540771 - tháng 9 năm 2024, 26 bình luận
Y Combinator, AI startups oppose California AI safety bill - https://news.ycombinator.com/item?id=40780036 - tháng 6 năm 2024, 8 bình luận
California AI bill becomes a lightning rod–for safety advocates and devs alike - https://news.ycombinator.com/item?id=40767627 - tháng 6 năm 2024, 2 bình luận
California Senate Passes SB 1047 - https://news.ycombinator.com/item?id=40515465 - tháng 5 năm 2024, 42 bình luận
California residents: call your legislators about AI bill SB 1047 - https://news.ycombinator.com/item?id=40421986 - tháng 5 năm 2024, 11 bình luận
Misconceptions about SB 1047 - https://news.ycombinator.com/item?id=40291577 - tháng 5 năm 2024, 35 bình luận
California Senate bill to crush OpenAI competitors fast tracked for a vote - https://news.ycombinator.com/item?id=40200971 - tháng 4 năm 2024, 16 bình luận
SB-1047 will stifle open-source AI and decrease safety - https://news.ycombinator.com/item?id=40198766 - tháng 4 năm 2024, 190 bình luận
Call-to-Action on SB 1047 – Frontier Artificial Intelligence Models Act - https://news.ycombinator.com/item?id=40192204 - tháng 4 năm 2024, 103 bình luận
On the Proposed California SB 1047 - https://news.ycombinator.com/item?id=39347961 - tháng 2 năm 2024, 115 bình luận
Rủi ro tức thời của các mô hình AI lớn không phải là biến Trái Đất thành kẹp giấy, mà là tạo ra dịch vụ hóa lừa đảo và một xã hội nơi không thể tin bất cứ điều gì
Tôi có thể ủng hộ ngay cả một đạo luật hơi vụng về buộc ảnh, âm thanh, video do mô hình có hơn X tham số tạo ra phải gắn metadata cho biết là do AI tạo ra. Kiểu như cấm tạo ra các mô hình không gắn những thẻ như vậy
Tuy vậy, vấn đề rõ ràng là như thế thì sẽ phải hình sự hóa cả việc chụp ảnh màn hình của ảnh AI rồi đăng lại mà không có metadata, và riêng với ảnh thì việc thực thi có thể trở thành một mớ hỗn độn hoàn toàn. Trên hết, mọi biện pháp trong lĩnh vực này phải được xây dựng trên tiền đề rằng chúng ta về cơ bản không thể kiểm soát được “kẻ xấu” sẽ làm gì. Hành xử có trách nhiệm đồng nghĩa với từ bỏ tiền bạc, và số tiền đó sẽ rơi vào tay những quốc gia kém trách nhiệm hơn
Về sau, khi có một ảnh nào đó xuất hiện, có thể hỏi Meta hay bất kỳ ai: “Cái này có phải do bên các anh tạo ra không?”. Những kỹ thuật tương tự đã tồn tại rồi, như Content ID của YouTube hay phát hiện CSAM. Không hoàn hảo, nhưng có thể hữu ích mà không kéo theo những tác dụng phụ khổng lồ của việc cố khóa chặt mọi hoạt động tạo ảnh
Tôi tò mò không biết bài báo có phóng đại những rủi ro mà dự luật đề cập hay không nên đã đọc nguyên văn.
“Tổn hại nghiêm trọng” có nghĩa là tổn hại do mô hình thuộc phạm vi áp dụng hoặc mô hình phái sinh của nó gây ra hoặc tạo điều kiện một cách đáng kể, bao gồm các trường hợp: tạo ra hoặc sử dụng vũ khí hóa học, sinh học, phóng xạ hoặc hạt nhân dẫn đến thương vong hàng loạt; tấn công mạng vào hạ tầng trọng yếu gây thương vong hàng loạt hoặc thiệt hại trên 500 triệu USD; mô hình dưới sự giám sát hạn chế của con người thực hiện hành vi cấu thành tội phạm gây tử vong, thương tích nghiêm trọng hoặc thiệt hại tài sản; và các tổn hại nghiêm trọng tương đương đối với an toàn, an ninh công cộng.
Tuy nhiên, nếu thông tin do mô hình xuất ra là thông tin mà công chúng có thể hợp lý tiếp cận công khai từ các nguồn khác thì bị loại trừ; nếu được kết hợp với phần mềm khác mà mô hình không đóng góp đáng kể vào khả năng gây hại thì bị loại trừ; và nếu tổn hại không do việc nhà phát triển tạo, lưu trữ, sử dụng hoặc công bố mô hình gây ra hay tạo điều kiện thì cũng bị loại trừ.
Nếu con người có thể gây hại bằng AI thì có lẽ họ cũng làm được khi không có AI; điểm mấu chốt là AI làm tăng khả năng đạt được mục tiêu phá hoại đến mức nào. Tôi không rõ nỗi lo ở đây là AI khiến việc đó dễ tiếp cận hơn và hiệu quả hơn, hay chính xác con quái vật đang được nhắm tới là gì. Tôi không nghĩ các mô hình này có thông tin không công khai về hạ tầng và hệ thống có thể bị lạm dụng.
Vì vậy luật này trông giống một màn trình diễn lập pháp. Nó có thể được thiết kế để thu hút sự chú ý và quyên góp nhằm xây dựng một thương hiệu chính trị. Việc chỉ nhắm vào các mô hình lớn nhất để chỉ những tay chơi lớn nhất bị ảnh hưởng cũng có thể là vì họ có khả năng đóng góp cho đảng cầm quyền lớn nhất và cái giá về thiện cảm khi phản đối là nhỏ nhất.
Việc quản lý AI sẽ là một nhiệm vụ lập pháp và hành chính phức tạp ở mức một bộ luật thuế mới, và nếu bị xử lý như một thương hiệu chính trị thì sẽ không thể làm nổi. Nhìn vào việc OpenAI đang chuyển thành công ty vì lợi nhuận, có vẻ chỉ hình thức phi lợi nhuận thôi là không đủ để duy trì định hướng vì lợi ích công. Việc cho phép kiểu chuyển đổi này có quy mô tương tự các đợt chuyển đổi vì lợi nhuận của các hệ thống bệnh viện phi lợi nhuận kể từ thập niên 1990.
Tiềm năng của AI đang làm lộ rõ sự mong manh trong quản trị của chúng ta. Quản trị yếu đôi khi tạo ra thêm cơ hội, nhưng động lực thoát khỏi sự bóc lột do thất bại đó gây ra lại nuôi lớn chế độ độc tài, và độc tài thì nuốt chửng quyền sở hữu tài sản cùng với các quyền khác.
Một trong các vấn đề có phải là lo ngại việc vận hành AI ngoài tầm kiểm soát sẽ đơn giản diễn ra bên ngoài California không?
Trong cuộc bầu cử cấp quận ở Sonoma liên quan đến CAFO cũng có điểm tương tự: ngay cả khi đạt được tiến bộ môi trường ở địa phương, kết quả có thể vẫn là xuất khẩu vấn đề sang bang khác có quy định lỏng lẻo hơn: https://www.kqed.org/news/12006460/the-sonoma-ballot-measure...
EU và California dường như thường ở vị trí dẫn đầu kiểu này trong công nghệ và quyền riêng tư. Bề ngoài có thể trông như công cốc, nhưng đó là quá trình mở đường, và luật tốt là bước thiết yếu để giành được chỗ đứng trên toàn thế giới.
Đó là một đạo luật ngu ngốc, nên coi như lần này chính trị gia đã làm được một việc khôn ngoan.
Tôi muốn xem tài liệu tóm tắt các lập luận ủng hộ và phản đối dự luật này. Suy nghĩ đầu tiên của tôi sau khi đọc bài là những cụm như “sự cẩn trọng hợp lý” và “rủi ro phi lý” có vẻ mơ hồ đến mức khó có thể đưa vào luật, vì có thể dẫn tới kiện tụng bất tận
Đồng thời, các nhà khoa học máy tính như Geoffrey Hinton và Yoshua Bengio, những người đã tạo ra phần lớn công nghệ nền tảng cho làn sóng AI tạo sinh hiện nay, lại công khai ủng hộ; và 119 nhân viên đương nhiệm và cựu nhân viên của các công ty AI lớn cũng đã ký thư kêu gọi thông qua. Tất nhiên, điều đó không có nghĩa là chỉ vì ai đó thông minh trong một lĩnh vực thì phải tin lời khuyên pháp lý của họ, nhưng tôi vẫn tò mò vì sao Hinton và Bengio lại ủng hộ mạnh mẽ đạo luật này
Tất nhiên vẫn có thể dẫn đến kiện tụng, nhưng điểm cốt lõi là nếu có vùng xám thì công ty rõ ràng phải vận hành trong vùng an toàn, và nếu cố đẩy sát ranh giới thì phải hiểu rằng mình đang đánh cược về mặt pháp lý. Nếu có quy trình hợp lý, hồ sơ tài liệu rõ ràng và các quyết định được luật sư phê duyệt, thì nhìn chung khá dễ ở trong vùng an toàn. Dự luật có thể tệ vì những lý do khác, nhưng bản thân hai cụm từ này không phải là vấn đề
Nhiều người trong các công ty AI tiên tiến quy mô lớn tin rằng AGI có thể thay đổi thế giới sẽ xuất hiện trong vòng 5 năm, xem chẳng hạn Situational Awareness của Aschbrenner. Cũng có mối lo song song rằng AI có thể khiến khủng bố trở nên dễ dàng hơn: https://www.theregister.com/2023/07/28/ai_senate_bioweapon/
Yoshua Bengio gần đây đã viết khá chi tiết về quan điểm của mình đối với an toàn AI; ông ít nghiêng về khả năng AI đạt mức con người sẽ đến rất sớm, nhưng cho rằng siêu trí tuệ có thể xuất hiện trong 5–20 năm tới. Ông nói: “Xét đến sự bất định đó, quy mô của rủi ro thảm họa hoặc rủi ro ở cấp độ tuyệt chủng, và thực tế là chúng ta đã không dự đoán được tốc độ tiến bộ nhanh gần đây của năng lực AI, thì sự thận trọng mang tính bất khả tri là con đường khôn ngoan hơn nhiều”
Hinton gần đây cũng đang có các bài giảng chi tiết về rủi ro mất kiểm soát. Những người ủng hộ nhìn chung xem dự luật này là một đạo luật được thiết kế khá hẹp để phần nào xử lý các kịch bản tồi tệ nhất về mất kiểm soát và lạm dụng: https://yoshuabengio.org/2023/05/22/how-rogue-ais-may-arise/
https://yoshuabengio.org/2023/06/24/faq-on-catastrophic-ai-r...
https://yoshuabengio.org/2024/07/09/reasoning-through-argume...
Bài đó liên kết tới các bài giải thích trước đó, cùng với các lập luận ủng hộ và phản đối cũng như thảo luận thêm trong phần bình luận
Đây không phải danh sách quan điểm ủng hộ/phản đối từ góc nhìn ngành, nhưng có lẽ là phần mô tả trung lập nhất về những gì dự luật này thực hiện
Đó là một nỗ lực lập pháp khủng khiếp, thật may là thống đốc đã chặn lại
Đây đúng là hình mẫu của chiếm đoạt chính sách bởi nhóm lợi ích. Nếu ai đó biến sản phẩm của bạn thành hàng hóa phổ thông, thì bạn sẽ tìm cách khiến việc tiếp tục tạo ra nó miễn phí trở thành bất hợp pháp
Chẳng khác nào cấm Linux để buộc mọi người phải dùng Microsoft và Apple
Tôi cho rằng nhiều người mơ thành lập startup AI khó có thể đánh giá bức tranh AI cùng ưu nhược điểm của nó một cách hợp lý và trung lập
California có một zeitgeist hiếm có nhờ sự kết hợp giữa công nghệ và đại học, nhưng đó không phải thứ không thể tái tạo ở nơi khác nếu có đủ tiền và cam kết