Khi AI thất bại, sự chao đảo có thể nguy hiểm hơn lỗi mang tính hệ thống (Anthropic Alignment Research)

(Một insight rất quan trọng phân tích các mẫu thất bại thực tế của những mô hình suy luận mới nhất, tính đến tháng 2/2026)

Luận điểm cốt lõi

• Nghiên cứu an toàn AI trước đây: tập trung vào misalignment mang tính hệ thống (theo đuổi nhất quán một mục tiêu sai)
• Mẫu thất bại thực tế của các mô hình mới nhất: tính không nhất quán / chao đảo (variance / incoherence) nổi bật hơn nhiều → đây có thể là vấn đề lớn hơn

Các quan sát chính (những mô hình suy luận mới nhất như Claude Sonnet 4, o3-mini, o4-mini)

• Độ khó của tác vụ ↑ & độ dài suy luận ↑ → tính không nhất quán tăng mạnh
• Bài toán dễ → mô hình lớn nhất quán hơn
• Bài toán khó → ngay cả mô hình lớn cũng hầu như không cải thiện được tính không nhất quán, thậm chí còn tệ hơn
• Mô hình càng tự suy nghĩ lâu hơn (overthinking tự nhiên) thì mức incoherence càng tăng bùng nổ

Phân loại kiểu thất bại

• Bias (lỗi mang tính hệ thống): luôn đi sai theo cùng một hướng (misalignment điển hình)
• Variance (lỗi không nhất quán): cùng một câu hỏi nhưng mỗi lần lại trả lời linh tinh khác nhau → không thể dự đoán
• Chỉ số incoherence = tỷ lệ variance trong tổng số lỗi (càng gần 1 càng chao đảo)

Nguyên nhân gốc rễ

• LLM không phải optimizer mà là dynamical system
• Cấu trúc vẽ quỹ đạo trong không gian trạng thái nhiều chiều → việc theo đuổi mục tiêu một cách nhất quán vốn dĩ rất khó
• Quy mô càng lớn thì khả năng “nhận ra mục tiêu” cải thiện nhanh, nhưng khả năng “theo đuổi mục tiêu đó nhất quán đến cùng” lại cải thiện tương đối chậm

Hàm ý đối với an toàn AI

• Dạng sự cố AI trong tương lai → thay vì “theo đuổi mục tiêu ác ý”, khả năng xảy ra “tai nạn kiểu chao đảo ở mức độ thảm họa công nghiệp” sẽ tăng lên
  (ví dụ: đang đọc thơ tiếng Pháp thì đột nhiên bị meltdown)
• Cần thay đổi ưu tiên nghiên cứu
  • Thay vì alignment mục tiêu hoàn hảo, việc cấp bách hơn là giảm bias + ngăn reward hacking + làm rõ đặc tả mục tiêu
• Tính không nhất quán không đảm bảo an toàn (ngược lại, vì khó dự đoán nên có thể còn nguy hiểm hơn)

Các điểm kết luận

• Mối đe dọa chính từ thất bại của AI đang dịch chuyển từ lỗi mang tính hệ thống → lỗi không nhất quán, phân tán
• Cần thiết kế lại nghiên cứu alignment từ góc nhìn dynamical system
• Niềm tin đơn giản rằng “AI càng thông minh thì sẽ càng an toàn” là rất nguy hiểm

https://aisparkup.com/posts/8979

[raykim]

Liệu có thể giải quyết bằng cách tạo nhiều agent giám sát (supervisor) và để ý kiến kiểm toán được quyết định theo đồng thuận. Một nhóm kiểm toán độc lập với workflow chính và giám sát toàn bộ CoT của workflow chính!