Sử dụng nhiều backend LLM trong một crate duy nhất, cấu hình đơn giản dựa trên builder và prompt tích hợp sẵn
(github.com/graniet)RLLM là một thư viện Rust cho phép bạn sử dụng nhiều backend LLM trong cùng một dự án: OpenAI, Anthropic (Claude), Ollama, DeepSeek, xAI, Phind và Google. Với API thống nhất và phong cách builder - tương tự trải nghiệm với Stripe - bạn có thể dễ dàng tạo các yêu cầu chat hoặc hoàn tất văn bản mà không cần nhân lên số lượng cấu trúc và crate.
Chưa có bình luận nào.