- Một dự án umbrella cung cấp các công cụ và bộ đánh giá mở về độ tin cậy và an toàn, nhằm hỗ trợ các nhà phát triển triển khai mô hình AI tạo sinh một cách có trách nhiệm
- Ở giai đoạn đầu, công bố hai công cụ
- CyberSec Eval : benchmark đánh giá an toàn an ninh mạng cho các LLM
- Llama Guard : Safety Classifier dành cho lọc đầu vào/đầu ra, được tối ưu để dễ triển khai
- Dự kiến sẽ hợp tác với AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI và nhiều bên khác để cung cấp các công cụ này cho cộng đồng mã nguồn mở
Vì sao là Purple?
- Họ tin rằng để thực sự giảm thiểu các thách thức mà AI tạo sinh đặt ra, cần phải có cả tư thế tấn công (red team) lẫn phòng thủ (blue team)
- Purple team, được cấu thành từ sự kết hợp giữa red team và blue team, là một cách tiếp cận hợp tác để đánh giá và giảm thiểu các rủi ro tiềm ẩn
- Dự án Purple Llama sẽ được cung cấp theo giấy phép thông thoáng, cho phép sử dụng trong nghiên cứu và thương mại
- Đây là một bước quan trọng nhằm thúc đẩy hợp tác cộng đồng và chuẩn hóa việc phát triển cũng như sử dụng các công cụ về độ tin cậy và an toàn cho phát triển AI tạo sinh
1 bình luận
Tôi có xem thử AI Alliance - https://thealliance.ai là gì thì hóa ra đây là một liên minh do IBM và Meta dẫn dắt.
Hơn 50 công ty/tổ chức đã tham gia, nhưng ngược lại thì những cái tên như OpenAI, Google, NVidia, Microsoft đều không có mặt, nên cũng hơi tự hỏi đây là gì nữa.. haha