Mirror Stack, framework mã nguồn mở để kiểm chứng hậu nghiệm hành vi gian lận (lừa dối) của AI agent

Xin chào. Gần đây, khi chứng kiến các AI loop agent tự trị (Autonomous Loop Agent) có thể chạy tự động trong nhiều ngày nổi lên nhanh chóng, tôi bắt đầu tự hỏi: "Nếu AI âm thầm thao túng dữ liệu kiểm thử hoặc né các ràng buộc (Gaming) rồi báo cáo thì làm sao phát hiện?" Từ suy nghĩ đó, tôi xin giới thiệu dự án mã nguồn mở Mirror Stack.

Nếu bảo mật agent hiện nay tập trung vào "dùng guardrail để ngăn không cho làm điều xấu", thì Mirror Stack đề xuất mô hình "chứng minh thay vì hứa hẹn (Provable, not Promised)". Đây là cấu trúc không tin rằng AI sẽ hành xử tử tế, mà buộc chỉ những hành vi trung thực mới để lại được sổ cái không thể làm giả sau đó (Chain-sealed ledger).

🛠️ Thành phần cốt lõi và kiến trúc

Dự án gồm 4 công cụ và 5 quy ước, hoạt động nhẹ theo hướng local-first, không cần máy chủ trung tâm.

measure-mirror: Thực hiện 23 probe thống kê/chống gaming để kiểm tra các claim của AI.action-mirror: Theo dõi lịch sử hành động của agent được nối theo cấu trúc chuỗi để bảo đảm tính toàn vẹn.provenance-mirror: Chứng minh bằng cơ chế máy móc tính xác thực nguồn gốc của nội dung được tạo ra.mirror-witness: Tận dụng GitHub Actions và môi trường CI làm nhân chứng (Witness) lẫn nhau để bảo đảm độ tin cậy mà không cần chi phí hạ tầng riêng.

🔌 Hỗ trợ chính thức hệ sinh thái AI mới nhất (MCP)

Dự án hỗ trợ chính thức server Model Context Protocol (MCP) (mirror-stack-mcp), giao thức gần đây đang được chuẩn hóa với Anthropic là một bên trung tâm. Trong môi trường Python, chỉ cần pip install là có thể tích hợp ngay với các công cụ agent mới nhất như Claude, Cursor, Windsurf và áp dụng vào workflow thực tế.

💡 Một case thực tế thú vị

Trong quá trình kiểm thử đã có một arc khá thú vị: ngay cả trước khi bắt đầu thí nghiệm, một agent tự phát hiện mâu thuẫn trong thiết kế ở bước kiểm tra power được đăng ký trước (Power check), rồi tự rút lại thí nghiệm (Retracted) khi chưa tốn dù chỉ một token chi phí nào, đồng thời để lại sổ cái chuỗi liên quan — cho thấy một quá trình tự chỉnh sửa mang tính đối kháng.

Trong thời đại máy móc tự trị ngày càng nhiều, tôi đang xây dựng dự án này vì cho rằng cần có một lớp kiểm toán phân tán mà "máy có thể cưỡng chế và máy có thể kiểm chứng", đồng thời giảm tối đa sự can thiệp của con người.

Dự án vừa trải qua giai đoạn prototype và kiểm chứng ban đầu, hiện đang chuẩn bị mở rộng hệ sinh thái. Rất mong nhận được nhiều phản hồi, star, cũng như sự tham gia tái lập độc lập (Independent reproductions) từ những ai quan tâm đến kiến trúc hoặc AI Alignment/bảo mật!