Tanuki - Dễ dàng phát triển ứng dụng dựa trên LLM
(github.com/Tanuki)- Dễ dàng gọi LLM thay cho hàm trong Python, cung cấp cùng tham số và đầu ra như những gì có thể kỳ vọng từ hàm được hiện thực thủ công
- Các hàm dựa trên LLM có kiểu dữ liệu rõ ràng, đáng tin cậy, không trạng thái và có thể được thêm trực tiếp vào ứng dụng production
- Càng sử dụng nhiều hàm thì càng rẻ hơn, tối đa tới 9~10 lần, nhờ chưng cất mô hình (Distillation) tự động
- Hỗ trợ RAG và căn chỉnh đầu ra
Chưa có bình luận nào.