OpenLM - client Python tương thích OpenAI có thể gọi nhiều LLM
(github.com/r2d4)- Có thể gọi các LLM khác như HuggingFace, Cohere và cả mô hình riêng của bạn với cùng tham số như API của OpenAI
- Hiện mới chỉ hỗ trợ Completion Endpoint, nhưng dự kiến sẽ bổ sung thêm các endpoint như Streaming/Embeddings
- Có thể dùng lại nguyên trạng trong mã hiện có bằng cách
import openlm as openai
Chưa có bình luận nào.