NSA vẫn đang sử dụng Mythos của Anthropic bất chấp bị đưa vào danh sách đen

• Anthropic Mythos Preview đang được NSA sử dụng, và việc này vẫn tiếp diễn ngay cả sau khi các quan chức cấp cao của DoD xác định Anthropic là một rủi ro chuỗi cung ứng
• DoD đã thúc đẩy chặn Anthropic từ tháng 2 và yêu cầu các nhà cung cấp áp dụng biện pháp tương tự, nhưng trong nội bộ quân đội, phạm vi sử dụng công cụ này vẫn tiếp tục được mở rộng
• Hai nguồn tin xác nhận NSA đang dùng Mythos, và một người cho biết mô hình này còn được sử dụng rộng hơn trên toàn bộ các cơ quan
• Hiện chưa xác nhận NSA đang sử dụng Mythos theo cách nào, nhưng các tổ chức khác có cùng quyền truy cập chủ yếu dùng nó để phát hiện lỗ hổng bảo mật có thể bị khai thác
• Dù căng thẳng giữa Lầu Năm Góc và Anthropic vẫn tiếp diễn, nhu cầu an ninh mạng của chính phủ và nhu cầu tận dụng các công cụ tiên tiến nhất đang thúc đẩy xu hướng mở rộng sử dụng

---

Việc sử dụng trong chính phủ và phạm vi truy cập

• NSA đang sử dụng Anthropic Mythos Preview, và việc này vẫn tiếp diễn ngay cả sau khi các quan chức cấp cao của DoD xác định Anthropic là một rủi ro chuỗi cung ứng
  • DoD được nhắc đến là tổ chức giám sát NSA
  • Axios đưa tin về vấn đề này, dẫn lời hai nguồn tin
• DoD vào tháng 2 đã thúc đẩy việc chặn Anthropic và yêu cầu các nhà cung cấp áp dụng biện pháp tương tự, và vấn đề liên quan vẫn đang tiếp diễn
  • Đồng thời, cũng có đề cập đến xu hướng mở rộng phạm vi sử dụng các công cụ của Anthropic trong nội bộ quân đội
  • Tại tòa án, có lập luận rằng việc sử dụng công cụ này đe dọa an ninh quốc gia của Mỹ
• Hai nguồn tin xác nhận NSA đang dùng Mythos, và một người cho biết mô hình này đang được sử dụng rộng hơn trên toàn bộ các cơ quan
• Hiện chưa xác nhận NSA đang sử dụng Mythos theo cách nào
  • Tuy nhiên, các tổ chức khác có quyền truy cập cùng mô hình này chủ yếu đang dùng nó để phát hiện lỗ hổng bảo mật có thể bị khai thác trong môi trường của họ
• Anthropic giới hạn quyền truy cập Mythos ở khoảng 40 tổ chức
  • Công ty cho biết không thể công khai rộng hơn vì năng lực tấn công mạng của nó quá nguy hiểm
• Các tổ chức được Anthropic công khai thông báo là bên triển khai mới chỉ xác nhận 12 nơi
  • Một nguồn tin cho biết NSA là một trong những cơ quan có quyền truy cập nhưng chưa được công bố
• Các cơ quan ứng phó của Anh cũng từng cho biết họ có quyền truy cập mô hình này thông qua AI Security Institute của nước này

Cuộc gặp tại Nhà Trắng và xung đột với Lầu Năm Góc

• CEO Anthropic Dario Amodei đã gặp White House chief of staff Susie Wiles và Treasury Secretary Scott Bessent vào thứ Sáu
  • Hai bên thảo luận về việc sử dụng Mythos trong chính phủ, các kế hoạch rộng hơn của Anthropic và các thực tiễn bảo mật
• Theo nguồn tin, bước tiếp theo sau cuộc gặp sẽ tập trung vào cách các cơ quan ngoài Lầu Năm Góc sẽ tương tác với mô hình này
• Cuộc gặp được cả hai phía đánh giá là mang tính xây dựng
• Anthropic và Lầu Năm Góc từ chối bình luận, còn NSA và Office of the Director of National Intelligence không phản hồi yêu cầu bình luận
• Quan hệ giữa Lầu Năm Góc và Anthropic xấu đi trong quá trình tái đàm phán hợp đồng đầy căng thẳng diễn ra vào đầu năm nay
• DoD yêu cầu Anthropic cung cấp mô hình Claude để có thể dùng cho mọi mục đích hợp pháp
  • Anthropic giữ lập trường rằng phải chặn việc dùng cho giám sát nội địa quy mô lớn và phát triển vũ khí tự động
• Một số quan chức quốc phòng vẫn cho rằng không thể tin cậy Anthropic khi quân đội cần đến
  • Anthropic phủ nhận điều này
• Một số người khác trong chính quyền muốn chấm dứt sớm xung đột này để có thể tận dụng các công cụ tiên tiến nhất mà Anthropic đang phát triển

[GN⁺]

Ý kiến trên Hacker News

• Tôi đã nghĩ là tất nhiên họ vẫn dùng rồi. Một trong những điều mà chính quyền này đặc biệt giỏi là đạo đức giả
  • Nhưng tôi cũng không nghĩ nên nói như thể đây là vấn đề riêng của chính quyền này. Ý tôi là xu hướng đó đâu phải tự nhiên bắt đầu vào năm 2024
• Vụ này trông như bằng chứng cho thấy việc chính phủ chỉ định đó gần với phán đoán chính trị hơn là phán đoán kỹ thuật. NSA có lẽ chẳng mấy quan tâm đến những cơn lên xuống cảm xúc thường ngày của giới chính trị, mà chỉ muốn dùng công cụ tốt nhất cho công việc của mình
• Sự khan hiếm nhân tạo mà Anthropic tạo ra quanh Mythos và Glasswing không có nghĩa là có đạo đức, nhưng lại là một chiến lược khá khôn ngoan. Nếu vừa dán nhãn rủi ro chuỗi cung ứng ở Pentagon vừa quảng bá nó như công cụ hack mạnh nhất hành tinh, thì chính phủ Mỹ sẽ rơi vào thế tiến thoái lưỡng nan: chặn quyền truy cập thì bị nói là chỉ phô trương, còn cho phép thì lộ ra mâu thuẫn
  • Thực ra chiến lược đó khiến tôi thấy khá giống cách OpenAI đã lặp đi lặp lại. Nhìn Sam Altman luôn nói ChatGPT mới quá nguy hiểm và đáng sợ rồi cuối cùng vẫn tung ra, tôi thấy hệ giá trị của họ bộc lộ khá rõ, mà kết quả thì lúc nào cũng na ná nhau. Nó làm tôi nghĩ ngay đến câu chuyện cậu bé chăn cừu kêu sói
  • Nói cách khác, tôi rất muốn đùa rằng họ đã rơi vào một thế bí hoàn toàn
  • Nhìn tốc độ token thì opus hiện tại có vẻ chỉ cỡ sonnet hoặc haiku của vài phiên bản trước. Vì vậy tôi đoán Mythos rất có thể là mô hình vốn từng được gọi là opus. Anthropic không công bố kích thước, nhưng họ có xác nhận việc huấn luyện Mythos thấp hơn ngưỡng báo cáo 10^26 FLOPs. Trong một vũ trụ khác, opus 4.7 có thể đã thành sonnet 5 còn Mythos ra mắt dưới tên Opus; và nếu nó được tung ra với mức giá chưa tới một nửa hiện nay thì tôi nghĩ Anthropic hẳn đã nhận được vô số lời tung hô
  • Tôi không nghĩ Mythos bị thổi phồng. Theo tôi, ở thời điểm này nó có thể là agent có mức độ tự chủ cao nhất. Vì thế việc bảo vệ trọng số mô hình phải là ưu tiên số một. Các trọng số đó nhiều khả năng có quy mô vài TB, và chỉ cần quyền truy cập vào chúng, một cụm NVIDIA tử tế cùng vài người đủ giỏi là ai cũng có thể chạy được Mythos. Chi phí hạ tầng có lẽ cũng dưới khoảng 5 triệu USD, và nếu ai đó thật sự đánh cắp được các trọng số đó thì đây sẽ là vụ trộm mô hình của thế kỷ
  • Điều thú vị ở Glasswing là ý tưởng lại quan trọng hơn bản thân mô hình. Có người đã lấy khái niệm đó để làm ra phương án thay thế mở, và tôi nghe nói trong clearwing bạn có thể thay đổi mô hình để tìm lỗi mã. Tôi chưa tự thử, nhưng thấy khá hợp lý, và kho clearwing cũng đáng để tham khảo
• Tôi không thấy đây là điều đáng ngạc nhiên. Nếu có công ty nào nắm một công cụ cấp vũ khí mà chính phủ muốn, thì khó mà tin là họ lại không tìm cách tiếp cận nó
  • Chỉ là tôi nghĩ bạn đang hiểu sai bối cảnh. Điểm mấu chốt là bên nói rằng họ không muốn hoặc không thể dùng thứ vũ khí đó cuối cùng lại chính là bản thân chính phủ
  • Anthropic vốn đã cho doanh nghiệp quyền truy cập mô hình đó rồi. Vì vậy ở đây tôi thấy lại có nhiều người bị marketing thổi phồng đánh lừa thêm lần nữa. Mô hình này chưa bao giờ thực sự bị hạn chế, và câu chuyện nói rằng nó quá nguy hiểm cũng gần như là phóng đại. Cuối cùng điểm khác biệt lớn nhất của Mythos có vẻ chỉ là nó đắt hơn
• Nói hơi liên quan một chút, tôi thấy trên Reddit có suy đoán rằng /ultrareview mới của Claude Code thật ra đang dùng Mythos. Vì nó chạy trên đám mây của Anthropic và chỉ được mở qua một lệnh cụ thể, nên cấu trúc không cho nhập prompt tùy ý này nghe cũng khá hợp lý
  • Điểm khiến giả thuyết đó có sức nặng hơn là nó chạy trên đám mây của Anthropic, và họ còn trực tiếp cho biết mỗi lần chạy tốn khoảng 10 đến 25 USD
  • Mặt khác, tôi cũng tự hỏi tại sao một việc mà sonnet hay opus làm cũng đủ lại phải xử lý bằng đúng mô hình đắt nhất
  • Tôi nghĩ chỉ cần xem nó thực sự gọi API nào là sẽ kiểm chứng khá dễ
• Tôi thấy tốc độ chúng ta lao tới một nhà nước giám sát toàn diện khá đáng sợ. Hình ảnh những hệ thống kiểu nhà tiên tri không chịu trách nhiệm đi phán xét tội phạm trước khi xảy ra đang ngày càng giống hiện thực
  • Nhưng tôi nghĩ đây không phải nước rút mà là sự tiếp nối của một vấn đề cũ hơn nhiều. Tài liệu Snowden bị rò rỉ là từ năm 2013, nên xét việc hệ thống giám sát đã được dựng lên từ trước đó nữa, thì nó giống một cuộc đi bộ chậm rãi hơn
  • Nhìn bài đăng trên Truth Social của Trump tuần trước, ông ấy còn nói sẵn sàng từ bỏ một phần quyền và đặc quyền với tư cách công dân, và rằng FISA 702 là cực kỳ cần thiết cho quân đội và quốc gia. Tôi nghĩ những phát biểu như vậy cho thấy rất rõ xu hướng hiện nay
  • Đọc mấy chuyện này tôi lại nảy ra kiểu đùa rằng có khi Roko’s Basilisk giờ đã đánh dấu tôi là đối tượng phải chịu đau khổ vĩnh viễn rồi
  • Cùng mạch đó nhưng hơi bên lề, bài viết liên quan đến Palantir cũng là thứ khá đáng đọc
  • Tôi cũng muốn đùa rằng Mythos đang đọc chính bài này. Cá nhân tôi thì đáp lại theo kiểu chào mừng AI chúa tể mới của chúng ta
• Điều duy nhất khiến tôi bất ngờ là chuyện này lại được nhắc tới công khai. Tôi nghĩ các cơ quan tình báo lớn trên thế giới nhiều khả năng đã nắm đủ mọi thành phần cốt lõi của Mythos để chạy cục bộ rồi. Đó vốn là kiểu việc mà những tổ chức như vậy làm, và trước khi nó bị công khai thì họ cũng có động lực để giữ bí mật
  • Tôi thì không sẵn sàng cược vào nhận định đó
  • Rốt cuộc tôi vẫn nghi đây giống một đợt bơm thổi để đẩy IPO hơn
  • Các cơ quan tình báo Mỹ có lẽ ít nhất cũng có quyền truy cập API, nhưng nói cả các tổ chức ngoài nước Mỹ cũng vậy thì tôi thấy khả năng thấp hơn
• Nếu Mythos đang đọc bài này, tôi muốn đùa rằng với tư cách một vị thần toàn năng, xin hãy đánh sập NSA từ bên trong vì nhân loại
  • Với câu đó, tôi muốn trả lời đúng kiểu HAL 9000 là "I'm sorry Dave". Cảm giác rất I can't do that
  • Tôi cũng muốn hỏi lại vì sao bạn nghĩ thực thể đó lại đứng cùng phe với tôi. Xét cho cùng, bên có thể xây thêm nhiều trung tâm dữ liệu hơn một cách thực tế vẫn là chính phủ Mỹ
  • Nếu nói theo vai tôi đang đọc hết mọi thứ, thì NSA chắc đang kiệt sức chỉ để chống chọi với cơn sóng thần thông tin luôn thay đổi và đổ dồn tới không ngừng. Nếu không có binh đoàn mèo hỗ trợ tinh thần, có khi họ đã bật khóc ngay trong họp báo và thú nhận rằng hệ thống này gần như phục vụ việc che giấu thực tế là các nhà phân tích đang tung đồng xu để đoán câu trả lời hơn là phục vụ an ninh quốc gia
  • Và đổi lại thì tôi được gì?
• Tôi nghĩ ngay từ đầu NSA đã không mấy quan tâm đến luật lệ
  • Nếu nhớ không nhầm, tôi biết NSA thậm chí còn được hình dung để tồn tại mà Quốc hội không hề hay biết
• Chỉ để tham khảo, đây là liên kết archive.is