- Sau khi Kimi K3 được công bố, ngày càng có nhiều tiếng nói xem AI mã nguồn mở là một mối đe dọa nguy hiểm, nhưng phần mềm độc quyền cũng được xây dựng trên nền tảng mã nguồn mở, và mô hình AI cũng là cùng một loại sản phẩm phần mềm
- Các công ty thương mại cùng phát triển những thành phần cấp thấp không tạo khác biệt và cạnh tranh ở sản phẩm cấp cao hơn, vì vậy mô hình AI cũng có khả năng trở thành hàng hóa phổ dụng, dù các phòng thí nghiệm frontier có động cơ không muốn điều đó
- Như các trường hợp PGP và SSL, việc kìm hãm phần mềm mã nguồn mở là cực kỳ khó; ngay cả khi cố quản lý các mô hình Trung Quốc, do chưng cất và tinh chỉnh, tiêu chí quốc tịch sẽ trở nên mơ hồ và có thể khiến chỉ người dùng Mỹ bị hạn chế
- Nvidia, các startup Mỹ, người dùng AI doanh nghiệp, Google, Meta, v.v. đều có động cơ phát triển mô hình mã nguồn mở vì lý do kinh doanh riêng; các mô hình miễn phí có thể trở thành nguồn lực cho quá trình chuyển đổi AI, giúp một quốc gia hấp thụ công nghệ mới và tăng trưởng kinh tế
- Các lập luận lo ngại Trung Quốc bán phá giá, tuyên truyền hoặc cài backdoor đã bỏ qua khả năng sao chép, sửa đổi và kiểm tra của phần mềm; AI mã nguồn mở vừa mạnh mẽ vừa khó kiểm soát, nên có khả năng tiếp tục lan rộng bất chấp các biện pháp kiềm chế chính sách
Cách mã nguồn mở chống đỡ phần mềm thương mại
- Dean Ball của OpenAI cho rằng nếu các mô hình open-weight chiếm ưu thế, có thể xuất hiện “chủ nghĩa cộng sản AI”, trong đó AI trở thành hàng hóa công cộng thay vì hàng hóa thị trường
- Lập luận của các phòng thí nghiệm frontier có cấu trúc rằng mô hình mã nguồn mở nguy hiểm, nên chỉ các gatekeeper có trách nhiệm và người dùng đáng tin cậy mới được tiếp cận; nhưng trên thực tế, toàn bộ phần mềm độc quyền đều được xây dựng trên mã nguồn mở
- Sản phẩm phần mềm có cấu trúc gồm nhiều chương trình xếp thành nhiều lớp
- Để tạo một dịch vụ như Uber, cần vô số thành phần như framework ngôn ngữ lập trình, phần mềm gửi/nhận lưu lượng web, công cụ phân tích dữ liệu, v.v.
- Phần lớn các thành phần cấp thấp này không phải là yếu tố tạo khác biệt của doanh nghiệp, nên cùng phát triển chúng và cạnh tranh ở các tầng cấp cao hơn, nơi khác biệt thực sự diễn ra, sẽ phù hợp với lợi ích thương mại hơn
- Các phòng thí nghiệm frontier không muốn mô hình AI trở thành thành phần phổ dụng phổ biến đến mức không cần cạnh tranh, nhưng việc điều đó có thực sự xảy ra hay không vẫn chưa được quyết định
- Ở đây, mô hình mã nguồn mở nghĩa là mô hình open-weight
Vì sao khó kìm hãm mã nguồn mở
- Phần mềm mã nguồn mở cực kỳ khó bị kìm hãm, và các nỗ lực kìm hãm có thể làm suy yếu doanh nghiệp trong nước trước các đối thủ quốc tế
- Khi Phil Zimmermann tạo ra PGP vào năm 1991, chính phủ Mỹ coi mã hóa là công nghệ quân sự và bắt đầu điều tra hình sự Zimmermann
- Khi Netscape phát triển SSL, chính phủ Mỹ chỉ cho phép phân phối ra nước ngoài các phiên bản đã bị làm yếu
- Vì phiên bản quốc tế bị làm yếu được lưu hành dễ dàng hơn, nhiều người Mỹ cũng sử dụng nó
- Kiểm soát xuất khẩu không ngăn được sự lan rộng của mã hóa, mà còn gây bất lợi cho người Mỹ
- Các công cụ mã hóa, bao gồm SSL và PGP, tiếp tục được sử dụng trên khắp thế giới, và tòa án phán quyết rằng việc công bố mã nguồn mã hóa là một hình thức biểu đạt được bảo vệ
- Sau đó, chính phủ Mỹ đã nới lỏng kiểm soát xuất khẩu mã hóa
Vì sao khó chỉ quản lý mô hình Trung Quốc
- Bản thân tiêu chí xác định quốc tịch của mô hình đã mơ hồ
- Không rõ một mô hình được chưng cất từ mô hình Mỹ có thể được xem là mô hình Trung Quốc hay không
- Khi một người Mỹ tinh chỉnh mô hình Trung Quốc, cũng không rõ đó là mô hình của quốc gia nào
- Kiểu quy định này nhiều nhất chỉ có thể áp đặt gánh nặng hành chính và khả năng tiếp cận AI hạn chế tạm thời lên người Mỹ, khiến họ bất lợi so với các nước khác
Động cơ tạo AI mã nguồn mở bên ngoài Trung Quốc
- AI mã nguồn mở không phải là công nghệ chỉ chính phủ Trung Quốc mới có động cơ phát triển; nhiều chủ thể thương mại có thể tham gia vì lý do kinh doanh riêng
-
Nhà sản xuất chip
- CEO Nvidia Jensen Huang gọi thứ Nvidia tạo ra là “nhà máy token”
- Nvidia muốn tạo ra càng nhiều nhu cầu token càng tốt, bất kể mô hình frontier hay mô hình mã nguồn mở giá rẻ chạy trên chip của họ
- Họ cũng đã công bố dòng mô hình mã nguồn mở Nemotron của riêng mình
- Lượng vốn khổng lồ đổ vào huấn luyện mô hình frontier cũng có lợi cho Nvidia, nhưng về dài hạn, hãng vẫn hưởng lợi ngay cả khi nhu cầu token thương mại bị thay thế bằng nhu cầu token mã nguồn mở
-
Startup Mỹ
- Thinking Machines Lab đã công bố mô hình mã nguồn mở mạnh mẽ Inkling
- Họ cho rằng nếu mô hình trở thành hàng hóa phổ dụng, có thể tạo lợi thế cạnh tranh có thể phòng thủ trong các dịch vụ bổ trợ hoặc tùy biến mô hình
-
Người dùng AI doanh nghiệp
- Hiện họ chưa tích cực phát triển AI mã nguồn mở, nhưng sẽ muốn các mô hình rẻ hơn cho những tác vụ ít phức tạp
- Với các tính năng hướng tới khách hàng, họ cần quyền kiểm soát tinh vi hơn
-
Các công ty công nghệ lớn
- Google và Meta buộc phải để mắt đến sản phẩm quảng cáo mới của OpenAI
- Nếu mảng quảng cáo của mô hình frontier tăng trưởng, họ sẽ có động cơ biến các mô hình mã nguồn mở không quảng cáo thành hàng hóa phổ dụng để kìm hãm cạnh tranh quảng cáo
Mục tiêu mơ hồ của “cuộc đua AI”
- Nỗi lo về mô hình Trung Quốc thường tập trung vào cách nói thua trong cuộc đua AI, nhưng ngay cả mục tiêu là phát triển mô hình tốt nhất hay bán được nhiều token nhất cũng không rõ ràng
- Cuộc đua AI, khác với việc phóng tên lửa lên Mặt Trăng trước, là quá trình ứng phó với một công nghệ mới có tính biến đổi, nên nó cũng mơ hồ như cách nói “cuộc đua Internet”
- Nếu có cạnh tranh giữa các quốc gia, điểm cốt lõi là hấp thụ chuyển đổi công nghệ và tăng trưởng kinh tế; theo tiêu chí này, mô hình AI miễn phí là lợi thế chứ không phải mối đe dọa
Lập luận về bán phá giá AI của Trung Quốc
- Scott Galloway cho rằng Trung Quốc đã nâng chất lượng tấm pin mặt trời, thép, xe điện và pin lên ngang mức phương Tây rồi hạ giá xuống còn một phần ba để chiếm lĩnh thị trường, và có thể áp dụng cùng chiến lược đó với AI miễn phí
- Tuy nhiên, ngoại trừ chip, AI không phải là hàng hóa vật lý
- Tấm pin mặt trời và thép cần chuỗi cung ứng vật lý mà từng khâu khó tồn tại độc lập
- Nếu trong nước không sản xuất tấm pin mặt trời, cũng khó xây dựng ngành wafer silicon cho điện mặt trời
- Với phần mềm, việc mô hình mã nguồn mở xuất hiện từ Trung Quốc không ngăn cản ngành tinh chỉnh mô hình ở Mỹ, mà thậm chí có thể được dùng làm nền tảng cho ngành đó
Thiên lệch tuyên truyền và sửa đổi mô hình
- Việc giả định mô hình Trung Quốc có thể chứa thiên lệch thân Trung Quốc không phải là vô lý, nhưng khó lấy đó làm lý do để kìm hãm
- Nếu thiên lệch chính trị của mô hình mã nguồn mở là vấn đề, người dùng Mỹ có thể sửa nó rồi phân phối lại dưới dạng mô hình đã được “Mỹ hóa”
- Trên thị trường Mỹ, một mô hình thiên lệch thân Trung Quốc bị bóp méo khó vượt qua một mô hình thiên lệch thân Mỹ có hiệu năng tương tự
Backdoor và mối quan hệ với kiểm tra công khai
- AI cũng không thay đổi cấu trúc cơ bản của thị trường lỗ hổng; các chủ thể có trách nhiệm vá lỗ hổng, còn kẻ tấn công khai thác chúng
- Hạn chế công cụ của các chủ thể có trách nhiệm sẽ chỉ có lợi cho kẻ tấn công
- Về lý thuyết, tác nhân độc hại có thể chèn hành vi đối kháng ẩn vào mô hình
- Các chủ thể có trách nhiệm cần tìm ra những hành vi này càng nhanh càng tốt, và cách hiệu quả nhất là cho phép bất kỳ ai cũng có thể kiểm tra mô hình
Năng lực cạnh tranh của mô hình frontier và coding agent
- Không có gì bảo đảm các nhà cung cấp frontier sẽ thống trị cả thị trường phi frontier
- Trong phát triển mô hình nhỏ, khả năng tiếp cận lượng vốn khổng lồ ít quan trọng hơn
- Nhà cung cấp frontier có thể dẫn người dùng sang các mô hình đắt hơn, nên thiếu động cơ tích cực phát triển mô hình nhỏ
- Tính bám dính của Claude Code và Codex chỉ ở mức như Coke và Pepsi: sau khi đã chọn một bên thì không có nhiều lý do để đổi, và điều này cần giả định rằng chi phí và chất lượng tương đương
- Coding agent không có lợi thế cạnh tranh có thể phòng thủ; chỉ cần xuất hiện những bất tiện nhỏ như chênh lệch giá, chất lượng mô hình hoặc vấn đề độ tin cậy, người dùng có thể chuyển sang agent khác
Sự lan rộng của AI mã nguồn mở
- AI mã nguồn mở vừa mạnh mẽ vừa khó kiểm soát, nên khó bị ngăn chặn chỉ bằng sở thích của nhà hoạch định chính sách hay lãnh đạo doanh nghiệp
- Những nỗ lực kìm hãm sự lan rộng chỉ tạo ra tiếng ồn tạm thời, chứ không thể ngăn sự xuất hiện của AI mã nguồn mở
1 bình luận
Ý kiến trên Hacker News
Đây không phải là AI mã nguồn mở. Muốn gọi là mã nguồn mở thì phải có mã nguồn Photoshop và giấy phép OSI; nếu chỉ công bố binary thì đó là công khai trọng số, còn ứng dụng web SaaS là mô hình đóng như GPT hay Opus/Fable
Mô hình Trung Quốc đang được nói tới chỉ đơn giản là cho phép chạy binary trong môi trường riêng thay vì dùng API. Nếu muốn mã nguồn mở thực sự thì nên xem các dự án như OLMo 3: https://allenai.org/
Tuy vậy, các thành phần như MAP-Neo·YuLan-Mini cho tiền huấn luyện minh bạch và DAPO/verl·Open-Reasoner-Zero cho RL suy luận đang tồn tại rải rác trong nhiều dự án. Việc xuất hiện một OLMo phiên bản Trung Quốc chỉ còn là vấn đề thời gian, và nếu tính cả nỗ lực của khu vực công trên toàn cầu như Apertus của Thụy Sĩ và LLM-jp-4 của Nhật Bản, thì đến năm 2027 có lẽ sẽ xuất hiện một bộ hướng dẫn mã nguồn mở hoàn chỉnh để cá nhân cũng có thể tái hiện các mô hình tiên tiến ít nhất ở mức 2023~2024
Nó gần với nghiên cứu khoa học hơn, nên cần vốn công và các tổ chức đáng tin cậy để quản lý. Mong Allen AI sẽ đảm nhiệm vai trò đó, nhưng không rõ Mỹ có thực sự đang hướng tới mức đầu tư cần thiết cho AI vì lợi ích công hay không. Ngoài ra, Photoshop cũng là ví dụ không phù hợp để so sánh với mô hình công khai trọng số. Không thể phân phối hợp pháp bản sao Photoshop, nhưng có thể phân phối GLM 5.2; nếu muốn so sánh thì nên lấy một ứng dụng độc quyền miễn phí
Dù có nhận được toàn bộ dữ liệu huấn luyện và kiến trúc, bạn cũng sẽ không huấn luyện lại từ đầu chỉ để chỉnh sửa mô hình, mà sẽ tinh chỉnh hành vi mong muốn. Cũng như ta gọi là mã nguồn mở khi phần mềm có thể sửa đổi, thì mô hình cũng có thể được xem là mở nếu có thể tinh chỉnh
Trên thực tế, để huấn luyện từ đầu một mô hình tương đương thì cần mã nguồn mở thực sự
Sự lo ngại xoay quanh các mô hình Trung Quốc tập trung vào chuyện “bị tụt lại trong cuộc đua AI”, nhưng mục tiêu mà một số người nói đến thực chất là đạt tới một dạng điểm kỳ dị. Dù không tin vào cách diễn giải kiểu khoa học viễn tưởng, vẫn có lập luận thực tế rằng một số thành tựu nhất định trong phát triển AI có thể trở thành vũ khí siêu mạnh theo nghĩa thực tế
Altman cũng công khai nói rằng chuyện đó cuối cùng sẽ xảy ra và ông muốn là người tạo ra nó. Ngay cả khi chưa đến mức siêu trí tuệ, nếu máy móc có thể khai thác lỗ hổng an ninh mạng thì điều đó cũng đủ khiến chính phủ lo ngại, và gần đây chính phủ Mỹ cũng dùng chính lý do này khi cấm các mô hình của Mỹ. Không cần tin vào điểm kỳ dị thì vẫn dễ hiểu rằng một số người xem đó là mục tiêu của cuộc đua AI
Thay vào đó, họ chạy GLM không có các rào chắn như vậy để phân tích dữ liệu và tìm ra nguyên nhân gốc rễ. Để đánh giá đúng các mối đe dọa, doanh nghiệp cũng cần những mô hình có rào chắn ở mức tối thiểu. Nếu không có AI công khai trọng số để kiểm tra AI tiên tiến mất kiểm soát, thì cũng sẽ không còn phương tiện ứng phó
Nhà đầu tư kỳ vọng lợi nhuận liên tục ngay từ trước điểm kỳ dị, nên doanh nghiệp sẽ phải bán mô hình. Nếu khóa chặt thế hệ hiện tại thì cũng rơi vào thế cân bằng khó khăn, vì sẽ không kiếm được vốn để làm ra thế hệ tiếp theo
Thật buồn cười khi chỉ 4 ngày sau lúc một lãnh đạo OpenAI gieo rắc nỗi sợ rằng “một tác nhân không có sự sống, vô hình, nguy hiểm và có thể tự sao chép vô hạn đã thoát ra từ một phòng thí nghiệm Trung Quốc”, thì https://news.ycombinator.com/item?id=48997548 lại xuất hiện
Có thể có bất đồng hợp lý về mức độ lo ngại an toàn AI từ tương lai gần đến trung hạn. Nhưng việc hoàn toàn không đề cập đến các lập luận liên quan làm giảm giá trị bài viết một cách đáng kể
Góc nhìn của bài viết là so sánh AI mở với AI đóng, và vì tôi không cho rằng lo ngại an toàn giữa hai cách tiếp cận này khác nhau quá nhiều nên đã không dành nhiều dung lượng cho nó
Lý do phản đối AI có thể tự do chạy cục bộ là vì các tập đoàn muốn kiểm soát công chúng nói chung. Mỹ là địa ngục do doanh nghiệp chi phối
LLM được huấn luyện không chỉ bằng dữ liệu công khai mà còn bằng dữ liệu thu thập bất hợp pháp. Thỏa thuận dàn xếp 1,5 tỷ USD của Anthropic là một ví dụ, và LLM sẽ chẳng là gì nếu không có lượng dữ liệu khổng lồ từ con người
Có thể cho rằng loại nghiên cứu này nên bị giới hạn trong chính phủ và các trường đại học chịu quản lý, thay vì các công ty niêm yết thiếu minh bạch với động cơ xung đột lợi ích; hoặc nên do các cộng đồng phi lợi nhuận thực sự quản lý, có hệ thống lãnh đạo dân chủ như các chuẩn Internet và viễn thông. Dù có phô trương đạo đức đến đâu, cũng khó tin rằng doanh nghiệp tư nhân sẽ tự điều tiết hiệu quả và minh bạch thông báo rủi ro cho công chúng cùng giới khoa học, và xung đột lợi ích kéo dài làm xói mòn độ tin cậy
Câu nói “không thể ngăn X” là một lập luận lười biếng và tệ hại để hỗ trợ kết luận rằng “X không xấu”. Tôi không còn gì để nói về phần còn lại của bài viết
Quan điểm của tôi là không thể ngăn AI mã nguồn mở, và mọi nỗ lực nhằm chặn nó rốt cuộc tất yếu sẽ trao nhiều quyền lực hơn cho kẻ xấu so với người tốt
Tiền vận động hành lang không quan tâm đến những tranh luận kiểu này
Backdoor liên tục được phát hiện trong router và thiết bị mạng Trung Quốc. Tôi nghi ngờ liệu có bao giờ xuất hiện cách kiểm toán hoàn toàn các model Trung Quốc hay không
Model trọng số mở không bị buộc vào một tầng thực thi cụ thể, nên trên thực tế phạm vi an ninh đáng lo chỉ giới hạn ở chính các trọng số. Cần cụ thể hóa xem đó là prompt injection đối kháng, nhồi nhét xuyên tạc lịch sử và tuyên truyền, hay một con đường nào khác khiến model không có chủ quyền trở nên đặc biệt nguy hiểm hơn model có chủ quyền
Bài viết này hoàn toàn không đả động đến vấn đề an toàn. Điều gì có thể ngăn tác nhân xấu tinh chỉnh trọng số mở để triển khai những vụ lừa đảo gần như hoàn toàn tự động, ở cấp độ thiên tài, nhắm vào hầu như mọi cá nhân?
Cuối cùng, để ngăn lạm dụng trọng số đóng, dù là sau tinh chỉnh hay từ giai đoạn tiền huấn luyện, phía tốt cũng cần có trọng số mở
Lòng tham của các giám đốc điều hành AI đã mở chiếc hộp đó, và giờ họ đang tuyệt vọng tìm cách chỉ thu lợi mà không phải chịu trách nhiệm về hậu quả
Nếu có đủ tiền để chạy cục bộ, bạn còn có thể làm những việc tệ hơn lừa đảo rất nhiều. Cứ hỏi các lobbyist là biết