Đánh giá các kết quả phân tích mật mã AI mới của Anthropic

• Mô hình nâng cao chưa công bố Claude Mythos đã tạo ra một cuộc tấn công khôi phục khóa HAWK và cải tiến cho tấn công AES 7 vòng, cho thấy năng lực của AI trong việc hiểu, kết hợp và mở rộng các kỹ thuật phân tích mật mã hiện có
• Tấn công HAWK không phá vỡ ngay hệ thống đã triển khai, nhưng làm giảm số bit bảo mật xuống khoảng một nửa. Có thể tăng gấp đôi kích thước khóa, nhưng hiệu suất sẽ giảm, khiến khả năng được chuẩn hóa cũng trở nên rất thấp
• Kết quả AES nhắm vào biến thể 7 vòng, không phải toàn bộ 10·12·14 vòng; đây là một tấn công không thực tiễn, cải thiện nghiên cứu năm 2013 ở mức hệ số hằng số, nên không làm thay đổi trực tiếp độ an toàn của AES trong thực tế
• Vì mô hình cũng dễ tạo ra các kết quả nghe có vẻ hợp lý nhưng sai, khả năng kiểm chứng trở thành nút thắt. Mã chạy được hoặc phản ví dụ đơn giản thì dễ kiểm tra, nhưng cải thiện tốc độ mang tính lý thuyết cần chuyên gia rà soát; ngay cả chứng minh Lean cũng cần con người kiểm tra cả cách phát biểu định lý
• Mật mã khóa công khai và mật mã hậu lượng tử, nơi số bài toán cấu trúc khó là hữu hạn, là lĩnh vực AI có thể áp dụng rộng rãi các công cụ hiện có. Ranh giới mà tại đó AI đột ngột trở nên kém hiệu quả trong nghiên cứu nâng cao vẫn còn, nhưng đang dịch chuyển nhanh ra xa hơn

---

Hai kết quả phân tích mật mã do Claude Mythos tạo ra

• Anthropic đã công bố tấn công khôi phục khóa HAWK và tấn công AES giảm số vòng do mô hình nâng cao chưa công bố Claude Mythos tạo ra
• Hai kết quả này khác nhau rất lớn về đối tượng và mức độ tác động
  • Kết quả HAWK có ảnh hưởng thực chất đến một cơ chế chữ ký từng có khả năng được chuẩn hóa
  • Kết quả AES gần với một tiến bộ lý thuyết, cải thiện nhẹ nghiên cứu hiện có
• Anthropic cũng công bố riêng phần giới thiệu quá trình nghiên cứu

Tấn công khôi phục khóa làm giảm mức an toàn của HAWK

• HAWK là một ứng viên cơ chế chữ ký hậu lượng tử dựa trên bài toán đẳng cấu lưới mô-đun (module-LIP), hiện chưa được triển khai hay được chọn làm tiêu chuẩn
• HAWK có liên quan đến Falcon đang trong quá trình chuẩn hóa, nhưng dựa trên các bài toán khó khác nhau nên tấn công lần này không áp dụng cho Falcon
• HAWK đã trải qua đánh giá đáng kể với tư cách một ứng viên tiêu chuẩn trong tương lai
• Đây không phải là tấn công phá vỡ ngay HAWK với các tham số triển khai thực tế và vẫn cần thời gian hàm mũ, nhưng nó làm giảm số bit bảo mật xuống khoảng một nửa
  • Về lý thuyết, có thể khắc phục bằng cách tăng gấp đôi kích thước khóa
  • Khi khóa lớn hơn, hiệu suất giảm, và lý do tồn tại của HAWK là hiệu quả hơn các phương án thay thế cũng bị suy yếu
• Mã tấn công được cung cấp khôi phục khóa trong vài giờ trên một thực thể thử thách đã bị làm yếu
  • Đây không phải là các tham số đề xuất triển khai thực tế, nhưng đủ để chứng minh điểm yếu mật mã học
• Kết quả đạt được không phải nhờ phát minh toán học mới, mà nhờ mở rộng và áp dụng kỹ lưỡng nhiều công cụ đã biết
  • Các thành phần được sử dụng không có yếu tố đặc biệt khác lạ
  • Việc kết hợp rộng rãi và bền bỉ các công cụ tấn công đã biết là kiểu công việc mà AI tấn công làm tốt
• Kết quả này khiến khả năng HAWK trở thành tiêu chuẩn thực tế trở nên rất thấp
• Có thể xem bối cảnh kỹ thuật chi tiết trong tóm tắt tấn công HAWK

Tác động hạn chế của tấn công AES 7 vòng

• AES là mật mã khối được dùng làm tiêu chuẩn từ năm 2001 và thực hiện 10·12·14 vòng tùy theo kích thước khóa
• AES được triển khai thực tế đã vượt qua các phân tích quan trọng, bao gồm thẩm định không công khai của NSA
• Vì khó tấn công toàn bộ thuật toán mã hóa, trong phân tích mật mã người ta thường nghiên cứu các phiên bản giảm số vòng đã bị làm yếu; kết quả của Anthropic nhắm vào AES 7 vòng
• Bản thân tấn công AES 7 vòng không mới; kết quả lần này cải thiện nghiên cứu trước đó năm 2013 và bài báo liên quan ở mức hệ số hằng số
• Nó cần một lượng phép toán mật mã khổng lồ, khó thực hiện trong thực tế, và trước tiên phải khiến thiết bị mã hóa thực tế mã hóa rất nhiều bản rõ được chọn bằng khóa bí mật
• Vì không thể thực sự chạy toàn bộ tấn công, mức cải thiện dựa trên phân tích trên giấy
  • Chưa rõ khi triển khai mọi chi tiết thì thời gian chạy thực tế có giảm hay không
• Về mặt kỹ thuật, đây là một tiến bộ phân tích mật mã thú vị, nhưng không phải tấn công thực dụng vào AES đầy đủ hay toán học mới mang tính đột phá

Quá trình tổng hợp tấn công với rất ít can thiệp của con người

• Có vẻ các nhà nghiên cứu Anthropic không dùng một đội ngũ lớn chuyên gia mật mã học để tinh chỉnh mô hình tỉ mỉ, mà yêu cầu mô hình tìm kết quả rồi để nó lặp lại công việc trong thời gian dài
• Mô hình đã đạt đến mức có thể thực hiện các việc sau mà không cần can thiệp chi tiết của con người
  • Hiểu các kết quả phân tích mật mã hiện có
  • Tổng hợp nhiều kỹ thuật
  • Xây dựng tấn công mới thực sự
  • Mở rộng các tấn công hiện có
• Đây chưa phải là phân tích mật mã siêu trí tuệ, nhưng năng lực tạo ra tiến bộ thực tế dựa trên nghiên cứu đã biết là đáng kể

Kiểm chứng trở nên khó hơn tạo kết quả

• Đầu ra trông giống một kết quả mới không phải lúc nào cũng thực sự đúng
• Mô hình có thể tạo ra không chỉ kết quả thật mà cả kết quả nghe hợp lý nhưng gây hiểu nhầm một cách dễ dàng hơn, làm tăng gánh nặng rà soát của con người
• Một tấn công hoàn chỉnh chạy trong vài giờ trên hệ thống đã làm yếu như HAWK thì dễ kiểm chứng
  • Chỉ cần nhận mã, kiểm tra xem có khôi phục được khóa và ký thực tế thông điệp đã chọn hay không
• Các cải thiện tốc độ lý thuyết tinh vi như với AES thì khó xác nhận tính hợp lệ
  • Có thể tạo chứng minh có thể kiểm chứng bằng máy với Lean
  • Ngay cả khi chứng minh đúng, nó vẫn nhạy cảm với cách chính phát biểu định lý được cấu trúc, nên cần chuyên gia xác nhận
• Các kết quả toán học gần đây được chú ý nhìn chung thuộc các loại sau
  • Bao gồm chứng minh có thể kiểm chứng bằng máy cho một định lý đã được hiểu rõ
  • Cung cấp phản ví dụ đơn giản có thể tính trực tiếp, như phản ví dụ cho giả thuyết Jacobian
  • Được nhiều chuyên gia rà soát trong thời gian dài rồi công nhận là hợp lệ
• Nhu cầu kiểm chứng của con người giới hạn tốc độ nghiên cứu, và trong phân tích mật mã không mang tính chí mạng, tình trạng này có khả năng sẽ tiếp diễn trong một thời gian

Tác động đến mật mã khóa đối xứng và khóa công khai

• Mật mã khóa đối xứng

  • Mật mã khóa đối xứng cố ý dùng cấu trúc phức tạp và vững chắc để có thể áp dụng nhanh nhưng khó đảo ngược
  • Việc bỏ thêm thời gian tính toán AI không đồng nghĩa có thể lập tức giải được cấu trúc này, và các mô hình hiện tại chưa cho thấy trực giác đột phá cần thiết để phá vỡ nó
  • Ngay cả khi AI đạt tiến bộ bằng kỹ thuật mới, cũng có thể dùng nó để cải thiện chính mật mã cho mạnh hơn

• Mật mã khóa công khai và hậu lượng tử

  • Mật mã khóa công khai cần cấu trúc toán học có cửa sập, trong đó tính toán một chiều thì nhanh, chiều ngược lại thì khó, nhưng một bên cụ thể có thể đảo ngược
  • Không có nhiều cấu trúc tiện lợi do con người phát hiện, và các nền tảng chính gồm
    • (EC)DLP
    • RSA
    • các bài toán lưới
    • nhiều bài toán trong lý thuyết mã
  • Ngay cả với bài toán lâu đời như RSA, cũng khó chắc rằng đã có đủ nhân lực phân tích; các lĩnh vực mới hơn như mật mã dựa trên mã và dựa trên lưới đặc biệt còn nhiều dư địa cho nghiên cứu tấn công
  • Đây là đối tượng nghiên cứu màu mỡ nơi AI áp dụng công cụ hiện có ở quy mô lớn có thể tạo ra tiến bộ thực chất

Cơ hội mở ra trong giai đoạn chuyển đổi sang tiêu chuẩn hậu lượng tử

• Mật mã khóa công khai hiện đang chuyển từ mật mã dựa trên EC và RSA sang các thuật toán hậu lượng tử dựa trên bài toán khó mới
• Thời điểm hiện nay, khi nhiều ứng viên bao gồm HAWK đang được xem xét, là lúc phù hợp để năng lực phân tích mật mã công khai quy mô lớn xuất hiện
• Nếu AI không làm sụp đổ mọi bài toán khó nền tảng hoặc đưa ta đến tình huống Minicrypt của Impagliazzo, phân tích mật mã AI mạnh có thể tạo ra các hiệu ứng sau
  • Tăng niềm tin vào các bài toán khó còn trụ lại
  • Làm cho văn liệu phân tích mật mã vững chắc hơn
  • Loại bỏ các ứng viên dễ tổn thương trước khi được chuẩn hóa

Thay đổi với nhà khoa học và hệ sinh thái nghiên cứu

• Nhà khoa học có thể thảo luận những vấn đề khó nhất với mô hình, nhưng vì mô hình chưa thể tự giải quyết mọi vấn đề một cách độc lập nên vai trò của con người vẫn còn
• Hiện tượng tốc độ khám phá mới tăng lên nhìn chung là tích cực với các nhà nghiên cứu năng động
• Vẫn còn những vấn đề chưa được giải quyết
  • Ghi công kết quả do AI tạo ra cho ai
  • Ai sẽ rà soát lượng kết quả tăng vọt
• Trải nghiệm dùng các mô hình nâng cao chưa công bố cho thấy hiệu năng đã cải thiện rõ rệt chỉ trong vài tháng qua, và thậm chí có những ứng viên kết quả đáng ngạc nhiên cho các câu hỏi đã được quan tâm trong nhiều năm
• Có thể quan sát một phần thay đổi này ở một số mô hình nâng cao mới mà không cần Claude Mythos và nguồn lực ở quy mô 100.000 đô la

Ranh giới năng lực của mô hình hiện tại

• Việc xem mô hình chỉ là tự động hoàn thành nâng cao hoặc cho rằng tiến bộ đã chậm lại không phù hợp với năng lực thực tế của các mô hình cao cấp
• Trong 5 tháng gần đây đã có tiến bộ lớn có thể đo lường ở một số loại vấn đề nhất định, và đến nay chưa có bằng chứng rõ ràng về trần hiệu năng
• Nếu chỉ dùng kết quả tìm kiếm AI miễn phí, khó tiếp cận năng lực của các mô hình cao cấp; các dịch vụ hiệu năng cao cũng có thể được truy cập với khoảng 20 đô la
• Dù vậy cũng không thể coi mô hình đã là siêu trí tuệ hoặc AGI đã hoàn tất
  • Trong nghiên cứu nâng cao, chúng rất hữu ích đến một điểm nào đó rồi đột ngột trở nên bất lực khi vượt qua một ranh giới nhất định
  • Con người vẫn có thể dễ dàng tìm ra ranh giới đó, nhưng bản thân ranh giới đang tiếp tục dịch chuyển ra xa
• Ranh giới giữa những lĩnh vực được mô hình hỗ trợ và những lĩnh vực con người phải tự giải quyết đang thay đổi; sự thay đổi này sẽ ảnh hưởng không chỉ đến các nhà khoa học mà đến mọi nghề nghiệp, bao gồm luật sư, nhân viên bán hàng và thợ sửa ống nước