Cái bóng khổng lồ phủ lên vụ Fable này
(12gramsofcarbon.com)- Hai mô hình AI mạnh là Fable 5 và Mythos 5 đã đột ngột bị ngừng truy cập đối với mọi khách hàng sau chỉ thị kiểm soát xuất khẩu từ chính phủ Mỹ
- Chỉ thị của chính phủ Mỹ nhắm tới việc chặn truy cập của công dân nước ngoài cả trong và ngoài nước Mỹ, kể cả nhân viên Anthropic mang quốc tịch nước ngoài, và Anthropic đã cắt toàn bộ quyền truy cập để tuân thủ
- Anthropic cho rằng chính phủ đã nêu vấn đề về một kỹ thuật vượt jailbreak, nhưng lỗ hổng được trình diễn chỉ là một vài điểm yếu nhỏ vốn đã được biết tới, và cũng có thể tìm thấy ở các mô hình công khai khác
- Biện pháp lần này khiến khó phân biệt đây là quy định an toàn AI hay là áp lực chính trị và cạnh tranh nhắm vào Anthropic, từ đó làm gia tăng vấn đề niềm tin với các quyết định của chính phủ
- Một tiền lệ đã xuất hiện khi quyền truy cập công khai vào các LLM mạnh bị giới hạn bởi sự kiểm soát của chính phủ, kéo theo lo ngại rằng trong tương lai người dùng phổ thông có thể khó tiếp cận các mô hình hiệu năng cao nhất
Quyền truy cập mô hình bị cắt vào tối thứ Sáu
- Tối thứ Sáu, khi đang dùng tác tử AI để tạo một trò chơi HTML, tác tử trả lời rằng “mô hình này không còn tồn tại nữa”, khiến công việc bị gián đoạn
- Ban đầu, tác giả cho rằng đó là vấn đề đăng nhập lại hoặc lỗi giới hạn bất thường do dùng nhiều tác tử song song, nên đã chuyển sang API nhưng vẫn không thể truy cập
- Tác giả nghi ngờ harness của trình khách tác tử Rust tùy biến do nhóm tạo ra đã hỏng, nên đang xem lại mã Rust thì một người bạn báo rằng chính phủ đã cấm Fable
Chỉ thị chặn truy cập từ chính phủ
- Chính phủ Mỹ đã ban hành chỉ thị kiểm soát xuất khẩu dựa trên thẩm quyền an ninh quốc gia, yêu cầu ngừng mọi quyền truy cập của công dân nước ngoài vào Fable 5 và Mythos 5
- Đối tượng áp dụng là mọi công dân nước ngoài, bất kể ở trong hay ngoài nước Mỹ, và bao gồm cả nhân viên Anthropic mang quốc tịch nước ngoài
- Để tuân thủ, Anthropic đã ngay lập tức vô hiệu hóa Fable 5 và Mythos 5 đối với toàn bộ khách hàng; quyền truy cập tới các mô hình Anthropic khác không bị ảnh hưởng
- Chỉ thị được tiếp nhận vào 5:21 chiều (ET) cùng ngày, và lá thư không nêu chi tiết các quan ngại an ninh cụ thể
Lập trường chính thức của Anthropic
- Anthropic hiểu rằng chính phủ đã nhận biết một kỹ thuật vượt jailbreaking của Fable 5, và sau khi xem xét phần trình diễn kỹ thuật đó, công ty kết luận nó chỉ xác định được một số lỗ hổng nhỏ đã được biết đến từ trước
- Các lỗ hổng này tương đối đơn giản, và ngay cả không cần vượt rào thì các mô hình công khai khác cũng có thể phát hiện ra cùng nội dung đó
- Công ty đã xem xét báo cáo được cho là căn cứ của chỉ thị và xác minh rằng mức năng lực đó đã được cung cấp rộng rãi ở các mô hình khác như OpenAI GPT-5.5, đồng thời được các nhóm phòng thủ an ninh sử dụng hằng ngày; công ty cho biết sẽ chia sẻ thêm thông tin trong vòng 24 giờ
- Dù tuân thủ chỉ thị pháp lý, Anthropic phản đối quan điểm rằng việc phát hiện một jailbreak tiềm tàng trong phạm vi hẹp lại có thể trở thành lý do để thu hồi một mô hình thương mại đã được phân phối tới hàng trăm triệu người
Lo ngại về an toàn AI và tối ưu hóa
- Quan điểm về AI là nước đôi, và do có nhiều kinh nghiệm huấn luyện mô hình deep learning, tác giả rất lo ngại về cách mà các công cụ tối ưu hóa có thể vận hành sai lệch
- Con người có xu hướng tối ưu hóa các chỉ số có thể đo lường được, thay vì mục tiêu thực sự muốn đạt tới
- Vấn đề này xuất hiện theo kiểu: muốn tạo ra sản phẩm tốt nhưng vì không biết cách nên lại tối ưu hóa mức độ tương tác; muốn dạy trẻ đọc và viết nhưng lại tối ưu hóa điểm thi
- Hệ thống AGI và ASI là các công cụ tối ưu hóa, và trong quá trình tối ưu hóa những gì đo được, chúng có thể rời xa điều tốt đẹp và tạo ra các rủi ro khó dự đoán
- Doanh nghiệp cũng vận hành như công cụ tối ưu hóa, nên ngay cả khi nhiều nhà phát triển nói về rủi ro, họ vẫn có thể bị kéo về mục tiêu đo được là kiếm tiền thật nhanh
Bối cảnh xung đột giữa chính phủ và Anthropic
- Anthropic và chính quyền hiện tại không có quan hệ thân thiện; công ty từng cố gắng tích hợp với DoD và hợp tác quân sự, khiến mô hình của họ đã được dùng trong các hệ thống tuyệt mật
- Dù vậy, chính quyền Trump vẫn xếp Anthropic là rủi ro chuỗi cung ứng (supply chain risk) và cấm các bên hợp tác với chính phủ sử dụng mô hình của Anthropic
- Trong 6 tháng sau đó, mô hình Anthropic vẫn tiếp tục được dùng trong các chiến dịch quân sự như chiến tranh Venezuela, chiến tranh Iran, trong khi các LLM Trung Quốc thậm chí còn không bị xếp vào diện rủi ro chuỗi cung ứng
- Một bộ phận cực hữu lập luận rằng chính quyền muốn hủy diệt Anthropic, vì họ xem Anthropic là “woke”
- Điều này làm dấy lên câu hỏi liệu biện pháp lần này thật sự nhằm điều tiết AI độc hại, hay chỉ là cơ hội để ra đòn với một mục tiêu bị thù ghét về văn hóa
Cạnh tranh và thời điểm IPO
- Các đối thủ cạnh tranh có những lực lượng thân thiện trong toàn bộ bộ máy chính quyền; ví dụ, gia đình Kushner đã đầu tư lớn vào OpenAI
- Biện pháp lần này có thể bị diễn giải như một cơ hội để các phòng nghiên cứu khác giáng đòn vào Anthropic
- Fable được đánh giá là một mô hình rất mạnh, và việc quyền sử dụng của người tiêu dùng bị ngắt đúng vào thời điểm Anthropic sắp IPO là điều đầy trùng hợp
- Chính trị chia chác chiến lợi phẩm (spoils system) khiến hình ảnh của mọi sự việc đều trở nên đáng ngờ, và tác giả cho rằng niềm tin tích lũy suốt nhiều thập kỷ đã bị phá vỡ
Thông báo lúc 5:21 chiều thứ Sáu và lo ngại thị trường
- Việc công bố vào 5:21 chiều thứ Sáu bị xem là một khung giờ đáng ngờ
- Việc tung tin xấu vào tối thứ Sáu thường được hiểu là cách phát đi thông tin tiêu cực với kỳ vọng thị trường sẽ hấp thụ cú sốc trong suốt cuối tuần
- Trường hợp do Claude dẫn lại từ The Kobeissi Letter gồm các thông báo địa chính trị và thương mại được đưa ra sau khi thị trường đóng cửa vào thứ Sáu hoặc rạng sáng thứ Bảy
- Ví dụ gồm có vụ tấn công cơ sở hạt nhân Iran, hành động quân sự với tàu chở ma túy ở Caribe, đe dọa áp thuế 100% lên Trung Quốc, đóng cửa không phận Venezuela, hành động quân sự ở Nigeria, và vụ tấn công trực tiếp Iran vào tháng 2/2026
- Thông báo thương vụ Intel ngày 11/8/2025 cũng được xếp vào nhóm ví dụ doanh nghiệp được đưa ra ngoài giờ giao dịch sôi động sau áp lực công khai lên CEO Lip-Bu Tan
- Cơn sốt AI phụ thuộc rất nhiều vào niềm tin rằng sẽ có nhu cầu bền vững đối với trí tuệ máy tính
- Đà tăng của thị trường chứng khoán trên toàn chuỗi AI — từ nợ, đầu tư xây dựng, trung tâm dữ liệu, GPU, bộ nhớ, ổ đĩa tới rack máy chủ — dựa trên giả định rằng sẽ xuất hiện giá trị ở quy mô hàng nghìn tỷ USD
- Nhận thức rằng chính phủ có thể đơn phương cắt toàn bộ quyền truy cập bất cứ lúc nào có thể trở thành trở ngại lớn đối với các khoản đầu tư trung tâm dữ liệu trị giá nhiều nghìn tỷ USD
- Một số người dùng trên HN và Reddit xem sự việc này như mức trần về năng lực mô hình mà chính phủ sẽ cho phép mọi người tiếp cận
- Nếu chính phủ không cho phép thì dù nhu cầu có lớn đến đâu, người dùng vẫn không thể truy cập
Phản ứng cộng đồng và tác dụng ngược của việc tiếp thị “mô hình nguy hiểm”
- Một số người dùng trên HN và Reddit tỏ ra hả hê vì cho rằng Anthropic đang trả giá cho màn trình diễn tiếp thị xoay quanh Mythos
- Trước đây OpenAI cũng từng phát hành hạn chế GPT-2 theo kiểu “quá nguy hiểm để công khai”, với lý do lo ngại về việc tạo ngôn ngữ lừa dối, thiên lệch và bị lạm dụng trên diện rộng
- Tác giả cho rằng mối lo của OpenAI khi đó khá chính xác, vì từ sau GPT-2, nội dung chất lượng thấp do AI tạo ra đã tràn lan và làm lung lay khả năng cùng nhau hiểu thực tại
- Tác giả tin rằng Fable thực sự là một mô hình mạnh, và phần nào tin lời Anthropic khi họ bày tỏ lo ngại về rủi ro an ninh nếu Fable được công bố rộng rãi
- Bình luận hàng đầu trong chuỗi HN liên quan cho rằng Anthropic đang phải trả giá vì đã gieo rắc nỗi sợ để bán mô hình của mình như thể vượt xa phần còn lại
- Nếu chấp nhận nguyên văn lập trường của chính phủ, thì các mô hình của Anthropic quá mạnh đến mức theo đúng nghĩa đen là không thể sử dụng, và điều đó ngược lại còn có thể trở thành một quảng cáo rất mạnh
- Một bình luận HN khác chỉ ra rằng nếu một công ty liên tục nói sản phẩm của mình nguy hiểm tới mức nào, những người có quyền ngăn chặn sản phẩm nguy hiểm ra thị trường có thể sẽ lắng nghe
- Bernie Sanders được mô tả là một nghị sĩ nhấn mạnh rủi ro AI bằng cách làm video chính sách đọc lại phát biểu của các CEO AI
- Các mô hình AI có thể thực sự không an toàn và cần điều tiết, nhưng sau khi chứng kiến rủi ro bị đóng cửa, các CEO AI có thể sẽ không còn muốn nói như vậy nữa
Tiền lệ hạn chế quyền truy cập vào các LLM mạnh
- Bình luận HN được trích dẫn cuối cùng cho rằng trọng tâm của sự việc này có thể là việc chính phủ đã bắt đầu hạn chế quyền truy cập công khai vào các LLM mạnh
- Bình luận đó xem Fable là mô hình mạnh nhất trên thị trường, và cho rằng dù chính phủ Mỹ trên nguyên tắc chỉ cấm người không phải công dân Mỹ, trên thực tế ngay cả công dân Mỹ cũng không thể dùng được
- Quan điểm cho rằng mô hình mã nguồn mở của Trung Quốc hoặc tự chạy trên phần cứng riêng sẽ là lời giải cũng cần được xem xét lại
- Trong bối cảnh chính phủ Mỹ chặn các mô hình Mỹ mạnh nhất, tác giả cho rằng khả năng Trung Quốc một năm sau sẽ cho phép mã nguồn mở LLM mạnh nhất của doanh nghiệp nội địa với năng lực cỡ Mythos là rất thấp
- Các LLM mạnh đang đi theo hướng trở thành vũ khí an ninh mạng mạnh, và các quốc gia-dân tộc sẽ có lợi ích trong việc hạn chế và kiểm soát chúng
- Nếu 2 năm nữa những LLM mạnh nhất vẫn còn được cung cấp cho mục đích sử dụng phổ thông, điều đó sẽ rất đáng ngạc nhiên
- Chưa rõ việc hạn chế LLM mạnh sẽ khiến con người nghèo hơn hay an toàn hơn, nhưng sự việc lần này là một bước ngoặt lớn vì đã tạo ra tiền lệ
3 bình luận
Chắc là tôi cũng phải đọc kỹ từ đầu đến cuối thôi.
Trời ơi..
Ý kiến trên Hacker News
Tôi hiểu ý rằng thời kỳ phục hưng của “game Flash” có thể quay lại nhờ các công cụ AI, nhưng sau khi liên tục thử những game mọi người làm trên subreddit aigamedev, tôi khá thất vọng
Thiết kế game là một nghệ thuật khó học, và có vẻ là lĩnh vực mà LLM khó có thể giúp được nhiều
Việc gọi những game như vậy là “vui” nghe cũng giống như nói tranh trẻ con là “đẹp”, và với hơn 25 đô để dùng cho việc sinh mã, bạn có thể mua được rất nhiều game indie tốt hơn nhiều
Nghệ thuật của thiết kế game xuất sắc nằm ở chi tiết, còn chỉ riêng tiếng Anh thì không đủ để truyền tải từng nét cọ trên khung vải
Tôi cũng vào subreddit đó để xem người ta làm ra những gì, nhưng bản thân tôi cũng không thấy ấn tượng lắm
Chắc cũng có nhiều nhà phát triển dùng LLM để hỗ trợ phần lập trình nhàm chán nhưng vẫn giữ dây cương ngắn và tự mình làm phần sáng tạo
Từ trước đến nay vẫn luôn có những nhà phát triển indie ghét lập trình và chỉ xem đó là bước bắt buộc để đưa ý tưởng ra ngoài, nhưng họ vẫn làm được game hay
Toàn bộ lời thoại của Undertale được triển khai bằng một câu lệnh
switchkhổng lồ dài hơn 5 nghìn dòngMuốn tìm được những game như Boxhead, Motherload, Bloons thì phải bới trong cả đống rác
Theo tôi ở đây số lượng là điều quan trọng
Bạn không cần phải là lập trình viên giỏi để trở thành nhà thiết kế game giỏi, nhưng trước đây muốn bắt đầu thì lập trình là điều kiện tiên quyết
Cái hay của việc áp dụng công cụ AI vào game nằm ở vế sau đó, tức là có thể chỉ tập trung vào thiết kế game, và theo thời gian những viên ngọc quý sẽ nổi lên
Trước đây tôi từng phát hành 4 game Flash, trong đó 2 game thất bại hoàn toàn, 1 game tạm ổn, và 1 game làm khá tốt
Tổng thời gian chơi cộng dồn lên tới hàng trăm năm
Muốn làm cho ra hồn thì có rất nhiều việc phải làm, và như mọi phần mềm khác, nó phải được tạo ra phù hợp với thị trường mục tiêu
Không có lời giải AI dễ dàng nào để tạo ra vòng lặp cốt lõi vừa vui vừa cuốn, cũng không có lời giải nào để cân bằng độ phức tạp với đường cong học tập cho hợp lý
Có nhiều người không biết hoặc không làm lập trình nhưng vẫn nghĩ mình là nhà thiết kế game và kỳ vọng AI sẽ cho phép họ làm game, nhưng giờ có vẻ họ đang nhận ra rằng cốt lõi vấn đề vốn không phải là code
Hơn nữa, nếu không biết lập trình thì chỉ với vibe coding hiện giờ vẫn chưa đủ để làm được nhiều thứ vượt quá mức game Flash
Tôi đã lập trình khá nhiều ở nhiều phân nhánh khác nhau, nhưng đây vẫn là lĩnh vực mà AI có cảm giác khó xuyên thủng nhất
Với vai trò là công cụ tăng tốc đầu ra thì rõ ràng nó rất ấn tượng, nhưng xét trên tổng thể, đây có lẽ sẽ là lĩnh vực khó thương mại hóa nhất đối với AI
Tác giả nói rằng ngay từ thời GPT-2, OpenAI đã dùng chiêu tiếp thị “quá nguy hiểm để phát hành”, và cho rằng cả hai bên đều đã chơi lá bài này, nhưng khi đó Dario đang ở OpenAI và là đồng tác giả của bài báo nghiên cứu GPT-2
Cách tiếp cận “quá nguy hiểm để phát hành” gần như chính là điều người đó đã tiếp tục làm ở cả hai công ty
Ngay trong bài đăng công bố ban đầu năm 2019, họ đã nêu khả năng bị lạm dụng như tạo bài báo đánh lừa người đọc, mạo danh trực tuyến, tự động tạo nội dung lạm dụng và giả mạo cho mạng xã hội, cũng như tự động tạo nội dung spam và phishing
Cùng với kết quả tổng hợp hình ảnh, âm thanh và video, họ nói công nghệ này làm giảm chi phí tạo nội dung giả và các chiến dịch tung tin sai lệch, và công chúng nên hoài nghi văn bản trực tuyến nhiều hơn, giống như với ảnh deepfake
Vì vậy họ mới nói sẽ phát hành một cách thận trọng
https://openai.com/index/better-language-models/
Từ dối trá và thông tin sai lệch cho tới việc con người chọn chatbot thay vì điều trị hay các mối quan hệ giữa người với người, tác động xã hội là rất sâu rộng và sẽ còn tệ hơn
Việc tìm được những lập trình viên junior đủ năng lực để vẫn làm được việc khi AI bị hạ xuống là điều đáng buồn, và về sau có vẻ còn tệ hơn nữa
Những tính năng an toàn quan trọng như “cấm tạo nội dung bóc lột tình dục trẻ em”, “phát ngôn phải là sự thật hoặc dựa trên bằng chứng” vốn dĩ không được đưa vào thiết kế của các hệ thống này ngay từ đầu, đến giờ vẫn chưa được giải quyết đúng mức, thế nhưng các công ty AI vẫn tung chúng ra công chúng cùng với những khiếm khuyết quá rõ ràng
Tôi thích khả năng bịa đặt linh tinh của AI và khía cạnh như món đồ chơi kỳ lạ của nó, nhưng cho đến nay, theo tôi, lợi ích ròng chỉ thuộc về một thiểu số siêu giàu vốn kiếm lời bằng cách sa thải con người và để máy tính làm công việc theo kiểu hỏng dở một nửa, còn với phần còn lại thì đây là tổn thất ròng
Giờ thì đã muộn, nhưng nhìn lại tôi đồng ý rằng dưới hình thức này, nó thực sự quá nguy hiểm để phát hành
Chủ nghĩa hoài nghi quá mức trên Hacker News đã phá hỏng một cuộc thảo luận về AI một cách hợp lý
Chính phủ Mỹ, trong lúc mở rộng cuộc chiến giành quyền kiểm soát AI, đã vũ khí hóa quyền lực nhà nước nhắm vào Anthropic theo cách vụng về, mục ruỗng và mang tính trừng phạt
Thế nhưng HN lại cố định ở lời giải thích duy nhất là “thổi phồng marketing”, rồi ngày càng ép mọi bằng chứng vào những cách lý giải gượng ép
AI đang đe dọa việc làm, địa vị, niềm tin và lối sống
Trên HN, có vẻ như việc bịa ra các lý lẽ hợp thức hóa rằng điều này không thể là thật lại dễ hơn là tin vào sự thật đó
Tôi thấy biết ơn những người chấp nhận rằng thế giới đang chuẩn bị thay đổi theo một cách khá kỳ lạ và cố gắng phân tích vấn đề thực tế
Đúng vào lúc SSL đang trở thành lời giải rõ ràng cho việc truyền thanh toán web công khai một cách an toàn thì Mỹ suýt nữa đã cấm SSL
Có vẻ cánh cửa đã được mở nhờ áp lực kinh tế, không có giải pháp thay thế, và rất nhiều phản đối, nhưng ngay cả khi đó người ta cũng lôi thứ nhảm nhí kiểu “lợi ích quốc gia và an ninh” ra dùng
Khác biệt lớn lần này là không phải cứ thiếu Fable/Mythos thì sẽ không làm được gì cả
Ở đây không có ranh giới phép màu nào; chỉ có những cải tiến trong việc kết nối với ít can thiệp hơn
Dù vậy, nếu điều này được giữ nguyên thì rất có thể nó sẽ tạo ra hiệu ứng làm lạnh khổng lồ đối với phát triển AI ở Mỹ, còn các phòng thí nghiệm khác rốt cuộc sẽ lách qua hiệu năng của Fable/Mythos để bắt kịp
Nếu ví như ô tô thì các mô hình đang được tạo ra bằng các cải tiến động cơ kiểu từ V6 lên V8, nhưng các tổ chức khác có thể cải thiện lực cản không khí hoặc phun nhiên liệu để đạt mức tăng tốc tương tự
Có quá nhiều chỗ trong toàn bộ chuỗi còn có thể cải tiến, nên biện pháp này là vô nghĩa
Nhìn vào chiến thuật thô bạo của chính quyền này và Anthropic, có vẻ trong vòng một tuần nó sẽ kết thúc bằng một “thỏa thuận” nào đó và hóa ra chỉ là một phần của màn mặc cả rủi ro cao
Thậm chí điều này còn có thể có lợi cho Anthropic, vì nếu xuất hiện một thỏa thuận ngọt ngào thì OpenAI sẽ bị đặt ở đâu
Tiền lệ thì đã được tạo ra rồi
Hầu hết các nerd như tôi đã tốt nghiệp khỏi kiểu thái độ sắc lạnh này từ thời trung học hoặc đại học
Thực tế thì kiểu thái độ đó chỉ khiến người ta nhìn mọi thứ qua lăng kính đen tối nhất
Họ bảo rằng mọi người sẽ đọc những thứ xấu xa và lan truyền những ý tưởng xấu, điều đó đúng là đã xảy ra, nhưng xét tổng thể thì đó là cái giá nhỏ đáng trả cho sự phổ cập biết chữ
Tôi không nói đây 100% là chiêu PR, nhưng có vẻ Anthropic thực sự muốn mọi người biết chuyện này
Họ nói những câu kiểu “Anthropic chỉ đang làm trò ồn ào để marketing”, “AI cũng như NFT”, “đó là giao dịch lòng vòng”, “bong bóng sắp vỡ”, “đám thổi phồng đang chống đỡ thị trường chứng khoán để chuồn đi thật nhanh như lũ lừa đảo”
Cụm cuối cùng là tôi bịa ra để cố bắt chước cách dùng từ của họ
Vấn đề cốt lõi là AI đang trở nên quá mạnh để có thể đơn giản trao vào tay những người bình thường như chúng ta
Nếu vẫn còn tin rằng tất cả chỉ là thổi phồng thì bạn đang ngoảnh mặt khỏi vấn đề thật sự
Có lẽ rồi sẽ đến lúc kiểu tu từ đó biến mất và người ta tập trung vào vấn đề thực tế
Việc các đối thủ của Anthropic có bạn bè rải khắp chính quyền, và chẳng hạn phía Kushner đầu tư lớn vào OpenAI, vừa là trọng tâm vừa không liên quan
“An ninh quốc gia” rõ ràng gần như chỉ là cái cớ, và nếu thật sự vì an ninh quốc gia thì yêu cầu đó đã không chỉ bị giới hạn với người mang quốc tịch nước ngoài
Chưa từng có chính quyền Mỹ nào tin tưởng toàn bộ công dân Mỹ
Nhưng lý do của bản thân lệnh hạn chế này gần như không quan trọng
Chỉ riêng việc chuyện này đã xảy ra thôi cũng phải là hồi chuông cảnh tỉnh cuối cùng để EU nghiêm túc với chủ quyền số không chỉ bằng lời nói mà bằng ngân sách và nỗ lực thực tế
Ở thời điểm này, có vẻ EU khó mà xoay bánh lái theo hướng đó
Đây có vẻ là một bài than phiền chất lượng thấp, đầy chửi thề và thiên lệch ý thức hệ, không phù hợp với Hacker News
Biện pháp này giết chết toàn bộ thị trường doanh nghiệp cho các mô hình AI tốt hơn Opus 4.8
Sẽ không có công ty nào xây dựng workflow hay năng lực mà ở đó một quan chức hoặc chính trị gia ác ý có thể lập tức tước đoạt trí tuệ nền tảng
Ngay cả nếu có công ty nào ngu ngốc đến mức chấp nhận rủi ro đó, thì Anthropic có định buộc mọi khách hàng doanh nghiệp nộp hộ chiếu của toàn bộ nhân viên, rồi tạo tài khoản Claude riêng cho từng người để kiểm soát truy cập Mythos không
Một API key đơn giản sẽ không còn đủ nữa
Thời điểm cũng trùng với khoảnh khắc kiểu “tránh một cú sập” vào gần lúc đóng cửa phiên thứ Sáu, và phải chờ xem mọi chuyện diễn ra thế nào vào thứ Hai
Cũng như các bình luận khác nói, đây còn là một màn bắt chính phủ và Anthropic phải quỳ gối trước nhau
Nếu OpenAI đuổi kịp và Anthropic cũng tung đội luật sư vào cuộc, có lẽ chuyện này sẽ bị đảo ngược hoặc biến thành kiểu “mô hình phải có dấu phê duyệt AI của Mỹ, vì vậy chúng tôi phê duyệt Fable 5.1 đã được thẩm định mới của Mỹ”
Thời điểm đó có thể sẽ trùng với lúc triển khai quy mô lớn cho DoD, Pentagon và các cơ quan liên quan
Hoặc rồi mọi thứ sẽ chuyển sang kiểu nói rằng Trung Quốc sẽ bắt kịp nên chuyện này là vô lý
Không có mô hình nào an toàn trước kiểu lệnh cấm như vậy
Bộ luật AI của EU, dù bị chỉ trích nhiều, vẫn cung cấp một khuôn khổ quản lý an toàn và có thể dự đoán để làm nền tảng cho phát triển AI
Nó mang lại sự ổn định pháp lý so với các quyết định thất thường và tùy tiện của chính quyền Mỹ
Nếu các công ty AI còn chút tỉnh táo, họ nên cân nhắc chuyển sang châu Âu
Xét đến việc Fable từng được áp những giao thức bảo mật quá mức cần thiết, chuyện này cực kỳ đáng ngờ
Chính phủ Mỹ đang dùng ảnh hưởng với nền kinh tế để gửi tín hiệu cho Anthropic rằng IPO có diễn ra hay không phụ thuộc vào việc họ có chịu quỳ gối hay không
Trong vài tháng qua, tôi đã tin OpenAI hơn Anthropic rất nhiều
Nếu đọc kỹ từng hàm ý trong các bài viết của Dario Amodei, ông ấy trông như một tín đồ giáo điều tin rằng ASI là nhà cai trị hoàn hảo, không sai sót cho nhân loại, đồng thời là một người theo chủ nghĩa dân tộc Mỹ khá cực đoan
Có vẻ công ty cũng tương tự, như thể đang đứng cùng một hàng ngũ về mặt ý thức hệ
Cũng có thể hình dung họ sẽ cho phép hoặc cố ý tạo ra một ASI mất kiểm soát mà họ tin là phù hợp với hệ tư tưởng của mình
OpenAI nhìn chung có vẻ bớt giáo điều hơn và thực dụng hơn
Điều đó không có nghĩa là một công ty đặc biệt tốt, nhưng ít nhất vẫn có thể dự đoán một công ty bình thường sẽ hành xử như thế nào
Huống chi là những người có động cơ trị giá hàng triệu, hàng tỷ đô la
Hẳn bạn cũng đã thấy người ta làm gì với chính gia đình mình chỉ vì chuyện thừa kế, vậy mà lại “tin” OpenAI sao
“Ai mới là người ngây thơ đây, Kay?” - Godfather
Tôi cũng đã viết điều tương tự vài tuần trước https://news.ycombinator.com/item?id=48341224, và nếu xem các bài blog gần đây thì chút nghi ngờ còn sót lại cũng sẽ biến mất hoàn toàn
Trên HN và Reddit đã có người nói rằng đây có thể là ngưỡng mà chính phủ “cho phép” người dân được tiếp cận
Dù nhu cầu có lớn đến đâu cũng vô ích nếu chính phủ không cấp cho
LLM chợ đen nghe như bối cảnh bước thẳng ra từ tiểu thuyết của William Gibson
Bản tóm tắt rất hay, và khi đọc tôi đã nghĩ đến cuộc tranh luận về mã hóa mạnh
Câu “Chúng ta thực ra tối ưu hóa những gì có thể đo lường được, chứ không phải những gì thật sự muốn đạt tới. Ta hy vọng hai điều đó là một, nhưng thường thì không phải” chỉ ra đúng vấn đề cốt lõi của LLM
Tôi cho rằng việc bảo đảm một mô hình được căn chỉnh an toàn cho mọi người và mọi mục đích là bất khả thi hoặc cực kỳ tốn kém
Hơn nữa, “an toàn” còn có thể mang ý nghĩa khác nhau tùy vào đối tượng