- Nhân dịp Anthropic công bố Mythos, internet không còn là không gian sáng tạo không cần xin phép nơi ai cũng có thể tự do khám phá nữa
- Khi lao động và trí tuệ bị thay thế bằng tư bản, cấu trúc giúp một số ít công ty nắm giữ ưu thế vĩnh viễn trong kỷ nguyên AI đang dần cố định
- Chính sách mô hình không công khai và hạn chế truy cập API được biện minh bằng an toàn, nhưng đồng thời lại dẫn tới việc kìm hãm cả đổi mới lẫn nghiên cứu an toàn
- Nguyên tắc cơ bản của việc tiếp cận trí tuệ phải là ‘ưu tiên tiếp cận’, và các công ty cần bảo đảm quy trình minh bạch và khả năng kiểm toán
- Cần cảnh giác với cấu trúc trích xuất giá trị mang tính thực dân khi các mô hình được huấn luyện bằng dữ liệu của nhân loại bị một số ít bên độc chiếm, và phải bảo vệ tính mở cùng sự sáng tạo của internet
Sự kết thúc của biên giới
- Nhân dịp Anthropic công bố Mythos, internet không còn là không gian không cần xin phép nơi ai cũng có thể tự do khám phá và sáng tạo nữa
- Trước đây, dù không có vốn hay quan hệ, ai cũng có thể tiếp cận cùng một hạ tầng kỹ thuật như internet, nhưng giờ đây khoảng cách giữa mô hình công khai và mô hình không công khai đang ngày càng lớn
- Điều này được ví như sự kết thúc của cơ hội, tương tự với “sự biến mất của biên giới” trong thời kỳ khai phá miền Tây nước Mỹ
- Cấu trúc trong đó lao động và trí tuệ bị thay thế bằng tư bản ngày càng sâu sắc, khiến các nhóm có vốn nắm giữ ưu thế vĩnh viễn trong kỷ nguyên AI
- Rudolf Laine gọi đây là “thời đại mà tư bản được chuyển hóa thành lao động siêu nhân”, còn George Hotz đặt tên là ‘neofeudalism’
- Có cảnh báo rằng nếu chỉ một số cực ít công ty độc chiếm chính trí tuệ, phần còn lại có thể rơi xuống thành tầng lớp dưới vĩnh viễn
- Chính sách không công khai Mythos của Anthropic bị chỉ trích không chỉ là biện pháp an toàn đơn thuần, mà còn là cấu trúc để doanh nghiệp tư nhân độc chiếm năng lực cấp nhà nước
- Anthropic đã công bố Project Glasswing cùng AWS, Apple, Google..., nhưng không phát hành công khai mà chỉ cấp quyền truy cập cho các đối tác doanh nghiệp
- Vì thế, khi xảy ra sự cố bảo mật hoặc rò rỉ thông tin, rủi ro sẽ lớn hơn, đồng thời tạo ra tình trạng phi dân chủ khi năng lực cấp quốc gia tập trung vào doanh nghiệp tư nhân
- Hạn chế truy cập API có thể giúp ngăn lạm dụng, nhưng đồng thời cũng ức chế đổi mới và nghiên cứu an toàn
- Truy cập công khai giúp bộc lộ năng lực tiềm ẩn của mô hình và cho phép ‘thất bại nhanh rồi sửa nhanh’ trong môi trường thực tế
- Cũng như trường hợp việc đưa vào sử dụng công cụ fuzzer (American Fuzzy Lop) đã giúp tăng cường bảo mật, việc mở rộng khả năng tiếp cận các frontier model có thể dẫn tới nâng cao năng lực an ninh
- Tuy nhiên hiện nay, do không thể tiếp cận các mô hình lớn, các nhà nghiên cứu an toàn AI phần lớn đang dùng mô hình mã nguồn mở của Trung Quốc
- Nguyên tắc cơ bản của việc tiếp cận trí tuệ phải là ‘ưu tiên tiếp cận’, còn các thiết bị an toàn nên được bổ sung lên trên nguyên tắc đó
- Các công ty sở hữu năng lực ở cấp chính phủ cần xây dựng quy trình công bằng và tiêu chuẩn minh bạch, và khi hạn chế truy cập thì phải công khai lý do rõ ràng
- Việc bị tước quyền truy cập frontier model có thể trở thành một dạng loại trừ xã hội tương tự trạng thái ‘unbanked’
- Cần có nghĩa vụ kiểm toán ở cấp độ FOIA (Luật Tự do Thông tin)
- Việc một số ít công ty độc chiếm các mô hình được huấn luyện trên dữ liệu của toàn nhân loại là điều tương tự với cấu trúc trích xuất giá trị mang tính thực dân
- Phần lớn những người cung cấp dữ liệu bị trích xuất giá trị mà không có sự đồng ý, còn lợi ích thì tập trung vào các mạng lưới nội bộ
- Sau đó lại lặp đi lặp lại kiểu mẫu tìm kiếm tính chính danh đạo đức thông qua UBI hoặc hoạt động từ thiện
- Dù ý đồ không xấu, vấn đề cấu trúc của sự tập trung quyền lực vẫn không thay đổi
- Bài viết cũng đưa ra hy vọng về khả năng cá nhân hóa của AI
- Kỷ nguyên AI khép kín hiện nay có thể mới chỉ là thời đại mainframe, và vẫn tồn tại khả năng chuyển sang thời đại máy tính cá nhân (Apple II)
- Các mô hình mã nguồn mở hiện đã bám đuổi frontier chỉ với khoảng cách 3~12 tháng, và nếu nguồn cung chip và năng lượng được mở rộng, có thể xuất hiện kỷ nguyên ‘trí tuệ rẻ đến mức gần như không thể đo đếm’
-
Không được đánh mất sự tự do của ‘Wired’
- Giống như việc các thành phố chặt bỏ cây cổ thụ vì lý do an toàn, chúng ta có nguy cơ đánh mất tính mở và sự sáng tạo của internet vì lập luận an toàn quá mức
- Internet vẫn là không gian cuối cùng của sáng tạo và khám phá do cá nhân dẫn dắt, và việc bảo vệ điều đó là rất quan trọng
13 bình luận
Có vẻ như là sự cường điệu mang tính marketing. Mỗi lần có model mới ra mắt thì lần nào cũng được nói là đỉnh nhất lịch sử. Kỷ nguyên loài người sắp kết thúc. Việc viết code đã xong nên phải đi làm thợ sửa ống nước, v.v. Những câu khẩu hiệu cường điệu mới lạ kiểu đó thì tràn ngập, nhưng khi dùng thực tế lại có vấn đề, và điều quan trọng nhất là đa số mọi người thậm chí chỉ dừng ở mức dùng nó như một công cụ tìm kiếm nâng cao, nên không thể khai thác 100% đầu ra của các model mạnh. Điểm nghẽn của thời đại LLM không phải là code hay hạ tầng, mà nghịch lý thay là mức độ hiểu biết thấp của công chúng nói chung về hệ thống thông tin khi họ viết prompt.
Dạo này nhìn mấy mô hình 31b được tung ra thì đúng là ghê thật... nhưng hiện tại có vẻ vẫn còn chút hy vọng.
Ý kiến Hacker News
Mới chỉ được công bố một tuần mà đã có kiểu thảo luận này thì có vẻ là quá sớm
Câu “mô hình này quá mạnh với công chúng” nghe giống một khẩu hiệu marketing
Vài tháng nữa rồi họ cũng sẽ bán một mô hình khác, rồi sau đó lại nói “mô hình mới quá mạnh nên không thể công khai”
Người ta nói Mythos quá chậm nên không phù hợp cho lập trình tương tác. Nếu phải để qua cả đêm mới có kết quả thì đa số người dùng không có lý do gì để dùng nó
Các phòng lab AI vẫn đang thua lỗ, và nếu muốn công khai Mythos thì họ sẽ phải định giá cao hơn nhiều. Nếu phần lớn khách hàng không cảm nhận được khác biệt đó thì không có hiệu quả kinh tế
Có lẽ Anthropic cũng muốn tận dụng quyền tiếp cận trung tâm dữ liệu huấn luyện lớn hơn OpenAI. Nhưng thứ cần lúc này không phải là mô hình thông minh hơn, mà là mô hình nhỏ, rẻ và đủ tốt
Mythos có lẽ cũng chẳng khác thời đó là mấy
Những người muốn làm chậm phát triển AI lại chính là người lan truyền diễn ngôn đó để thu hút chú ý, và rốt cuộc lại góp phần thúc đẩy AI lan rộng
Khoảng năm 2011 cũng có một nghiên cứu thú vị về hiện tượng này, tôi nhớ đến trường hợp thương hiệu Thụy Điển Cheap Monday
Có vẻ họ tin rằng hạn chế quyền truy cập là cốt lõi của bảo mật
Nhưng nếu thái độ đó chỉ mang lại lợi ích cho thiểu số và khiến số đông bị gạt ra ngoài, thì tính chính đáng của nó nên để công chúng phán xét
Nếu chức năng đó được tung ra dưới dạng API công khai thì khả năng bị lạm dụng là rất lớn
Đã có nhiều trường hợp lừa đảo quy mô lớn hoặc deepfake dùng AI
Nếu khi ra lệnh cho mã nguồn mở rằng “hãy tìm mọi lỗ hổng có thể” mà nó cho ra nhiều kết quả hơn hẳn các mô hình hiện có, thì việc công khai có giới hạn là lựa chọn hợp lý
Có thể hiểu được việc Anthropic chỉ cấp quyền truy cập cho các công ty bảo mật như Crowdstrike, Cisco, Microsoft
Nếu mục tiêu của Glasswing là tăng cường bảo mật hạ tầng, thì chặn họ chỉ vì từng có sự cố bảo mật lại là điều kỳ lạ
Mythos có thể sẽ được công khai vào một lúc nào đó, nhưng đợt công khai hạn chế lần này có vẻ là quá trình chuẩn bị cho một lần công khai an toàn
Ở NVIDIA, họ đang phát triển Nemotron để giải quyết những lo ngại này
Nemotron không chỉ là mô hình mở trọng số mà còn công khai cả dữ liệu mở và recipe mở
Mục tiêu là để nhiều tổ chức cùng hợp tác xây dựng AI mở
Nemotron 3 Super hiện là thành công nhất, và sắp tới sẽ có Ultra cùng Nemotron 4
Đây là chiến lược khả thi vì AI càng phát triển thì cơ hội của NVIDIA cũng càng lớn
Liên kết liên quan
Câu “thời mà một đứa trẻ 16 tuổi có thể tạo ra thứ gì đó mà không cần vốn” thực ra hiện giờ còn đúng hơn trước
Lý do Anthropic không thể công khai Mythos là vì thiếu tài nguyên tính toán
OpenAI sẽ có nhiều năng lực tính toán hơn rất nhiều trong năm nay và năm sau
Tôi đồng ý với ý kiến “còn quá sớm”, ở chỗ Mythos không khác biệt quá lớn so với các mô hình khác
Tuy vậy, khung lập luận của những người chỉ trích AI rằng “các tập đoàn lớn đã cướp bóc xã hội” có vẻ bắt nguồn từ sự hiểu sai về khái niệm sở hữu trí tuệ
Thay vì giấu Mythos, Anthropic có thể dùng nó như một dịch vụ kiểm tra bảo mật doanh nghiệp
Nếu là dịch vụ dùng mô hình để tấn công hạ tầng rồi tìm lỗ hổng thì khả năng sinh lời cũng sẽ cao
Ví dụ một maintainer của gói npm nổi tiếng đang cần tiền, thuê Mythos kiểm tra thư viện của mình, rồi một tháng sau bị hack, thì đó sẽ là vấn đề lớn
Phép so sánh với lưới điện rất ấn tượng
Cá nhân có thể tự sản xuất điện như điện mặt trời, nhưng đa số vẫn trả tiền điện công cộng để dùng điện
Tương tự, quyền tiếp cận trí tuệ về cơ bản cũng nên mở cho tất cả mọi người
Việc sử dụng nguy hiểm thì có thể bị hạn chế bằng các biện pháp an toàn, nhưng mặc định nên là cho phép truy cập
Loài người luôn bị cám dỗ muốn biến “công nghệ quái vật” thành nhu yếu phẩm
Nhưng những con quái vật đó không thể bị nhốt mãi được. Cuối cùng chúng sẽ vượt ngoài tầm kiểm soát
Cơ hội trong thời kỳ khai phá của Mỹ là một hiện tượng ngoại lệ
Trong giai đoạn mở rộng nhanh, cá nhân có thể phát triển, nhưng khi tăng trưởng chững lại thì doanh nghiệp sẽ áp đảo cá nhân
Khi tiến bộ công nghệ tăng tốc, cá nhân cũng đang tiến gần đến mức có thể hủy diệt cả thế giới
Giống như vũ khí hạt nhân, AI giờ đã đến lúc cần hạn chế quyền tiếp cận của cá nhân
Muốn thành công thì dịch vụ đó phải gắn với người nổi tiếng
Đằng nào đối thủ cạnh tranh cũng sẽ bắt chước hết thôi lol. “Rồi, giờ thì lao vào chiến đi.”
Nhưng đây đâu phải là một khái niệm mới?
Trong lĩnh vực tài chính cũng có một trung tâm tài chính tồn tại vượt lên trên luật pháp của mọi quốc gia, và mọi thể chế tài chính đều bị kiểm soát từ đó.
Giờ thì IT cũng có thể hiểu là một hub IT như vậy đã được tạo ra, nơi các công ty IT kiểm soát lẫn nhau để đối đầu với mọi quốc gia.
Và nhìn vào hiệu năng của Claude thì sẽ hiểu điều đó.
Ý bạn là các trung tâm tài chính ám chỉ một nhóm cụ thể như mạng lưới người Do Thái, hay là các trung tâm trung gian đơn thuần như Hong Kong, Singapore?
Các cấu trúc như SWIFT hay thanh toán bù trừ trên thực tế phải xem là nằm trong tay các cường quốc.
Thay vì đối đầu, chúng thường được sử dụng như công cụ của phía có sức mạnh hơn.
Nhìn theo cảm giác đó, tôi thấy bài viết này cũng tự nhiên được hiểu là cuối cùng sẽ trở thành công cụ của kẻ mạnh, đúng với dụng ý ban đầu hơn.
Có vẻ như yếu tố marketing vẫn còn hơi mạnh một chút.
Quả thật, nếu một mô hình có năng lực vô hạn theo kiểu cực đoan được tạo ra, thì cũng có vẻ sẽ không có lý do gì để công khai mô hình đó. Vì bản thân nó có thể tự tạo ra giá trị gia tăng còn cao hơn cả phí sử dụng mô hình đó...
Nếu bị buộc phải công khai đúng nghĩa, thì ngược lại, khi lao động và trí tuệ bị thay thế, chủ nghĩa cộng sản — thứ chưa từng một lần tồn tại trong lịch sử — thậm chí có thể trở thành hiện thực.
Đây là một bài viết hay, chỉ ra những điểm mà tôi chưa từng nghĩ tới. Cảm ơn!
Nhìn vào những thứ như GLM5.1, tôi cảm thấy rằng ngay cả các mô hình mở cũng có thể tiếp tục bám đuổi các mô hình đóng trả phí một cách ổn định, dù có hơi bị bỏ cách một chút.
Có vẻ như đây là điều đã được báo trước.. công nghệ trở thành ma thuật và một thời đại mà một số ít pháp sư độc chiếm mọi thứ..
Anthropic đã phát minh ra b2b?