Trong bối cảnh Generative AI (AI tạo sinh) đang lan nhanh chóng trong thời gian gần đây, nhiều doanh nghiệp đang xem xét triển khai AI hoặc đã đưa AI vào thực tiễn làm việc. Tuy nhiên, việc mở rộng ứng dụng AI cũng kéo theo các mối đe dọa bảo mật nghiêm trọng như rò rỉ bí mật nội bộ, sử dụng trái phép và vấn đề tuân thủ quy định. Vụ rò rỉ mã nguồn nội bộ của Samsung và trường hợp Cơ quan Bảo vệ Dữ liệu Cá nhân Ý tạm thời chặn ChatGPT cho thấy điều đó.
Trụ cột trung tâm của bảo mật AI hiện nay là Guardrails do AWS, Google và Microsoft cung cấp, giúp lọc đầu ra của AI để ngăn chặn ngôn ngữ thù địch, lộ thông tin nhạy cảm và các rủi ro tương tự. Tuy nhiên, Guardrails chỉ tập trung vào “nội dung đầu ra”, nên có giới hạn lớn trong kiểm soát dựa trên ngữ cảnh như ai đang yêu cầu AI, lúc nào và với quyền gì.
MCP(Model Context Protocol) do Anthropic ra mắt vào năm 2024 là một khung truyền thông đột phá giúp AI phối hợp với các hệ thống bên ngoài như Slack, GitHub, AWS để thực hiện công việc nghiệp vụ thực tế. Tuy nhiên, trong môi trường MCP mà AI có thể truy cập trực tiếp vào hệ thống bên ngoài, việc chỉ dùng lọc nội dung đơn thuần là không đủ để kiểm soát rủi ro bảo mật. Vì vậy, khung quản lý truy cập đặc quyền (Privileged Access Management - PAM) bao gồm quản lý quyền người dùng, chính sách dựa trên hành vi và ghi nhật ký kiểm toán là điều bắt buộc.
Bài viết này tập trung phân tích kiến trúc bảo mật của QueryPie kết hợp MCP và PAM, làm rõ cách hai thành phần này bổ trợ cho nhau cùng Guardrails, và cách ứng phó hiệu quả với các mối đe dọa AI mới như prompt injection, đe dọa từ nội bộ, rò rỉ thông tin nhạy cảm.
Tóm tắt nội dung chính
- Guardrails: Lọc tập trung vào đầu ra AI, hiệu quả trong việc chặn ngôn từ thù địch, bạo lực, thông tin cá nhân; tuy nhiên còn thiếu khả năng kiểm soát theo ngữ cảnh
- MCP PAM: Kiểm tra quyền người dùng và hành vi trước khi AI gọi các công cụ bên ngoài, cung cấp kiểm soát truy cập chi tiết theo chính sách
- Ứng phó đe dọa: Có thể phản ứng theo chính sách đối với các kịch bản tấn công như lạm dụng LLM, prompt injection, lạm dụng đặc quyền, rò rỉ thông tin nhạy cảm, lạm dụng API
- Kiến trúc bảo mật tích hợp: Kết hợp an toàn nội dung của Guardrails + kiểm soát hành vi theo chính sách của MCP PAM + tích hợp DLP sau khi xuất ra để triển khai phòng thủ nhiều lớp
Bảo mật AI đang tiến hóa từ việc chỉ lọc nội dung sang một hệ thống quản trị cả việc “ai đã yêu cầu gì, khi nào và yêu cầu gì”. Kiến trúc MCP-PAM là giải pháp hướng về tương lai để cân bằng giữa đổi mới trong ứng dụng AI và an toàn.
Bạn có thể xem thông tin chi tiết hơn, phân tích kỹ thuật cụ thể và chiến lược ứng phó với mô hình đe dọa tại blog bên dưới.
👉 https://www.querypie.com/ko/resources/discover/white-paper/16
AI càng thông minh hơn, thì bảo mật càng phải thay đổi. QueryPie đang tìm kiếm câu trả lời cho sự thay đổi này từ trung tâm của cuộc tiến hóa.
Chưa có bình luận nào.