Dự án phòng vệ chống prompt injection cho Python LLM dựa trên Rust

Đây là một gói phòng vệ chống prompt injection cho Python LLM được xây dựng dựa trên Rust!

Trong quá trình dùng AI API để làm nhiều thứ, tôi nhận ra các cuộc tấn công injection phổ biến hơn tưởng tượng. Việc cứ lặp đi lặp lại bộ lọc regex dựa trên re và thay thế chuỗi khá bất tiện, nên tôi đã phát triển dịch vụ này với suy nghĩ sẽ rất hay nếu có một gói như vậy. ( Tôi cũng đã nhận được rất nhiều trợ giúp từ AI trong quá trình phát triển! )

Các tính năng chính gồm IPS, IDS và IUS.
IPS - chặn prompt của người dùng và chỉ thị tiếp tục prompt hiện có
IDS - không chặn prompt của người dùng nhưng đánh dấu các từ vướng vào quy tắc chặn
IUS - IPS hoạt động với tốc độ cao nhờ multithreading và caching

Điểm đặc trưng là có thể hỗ trợ chặn bằng cách thêm JSON mới vào vị trí của rules.json bên trong gói hoặc chỉnh sửa rules.json hiện có, đồng thời có thể gọi lại init để sửa quy tắc ngay trong lúc đang chạy! ( quy tắc tùy chỉnh -> quy tắc cung cấp sẵn )

Đây là lần đầu tôi đăng kiểu này nên cũng hơi run, mong mọi người giúp đỡ!