Cria - Chạy LLM đơn giản bằng Python
(github.com/leftmove)- Thư viện để chạy LLM theo cách lập trình bằng Python
- Được xây dựng để có thể dễ dàng chạy LLM với các tính năng nâng cao ngay cả khi cấu hình ở mức tối thiểu
- Có thể bắt đầu chỉ với 5 dòng mã mà không cần cấu hình mặc định
- Sử dụng các tính năng nâng cao trên phiên bản
Ollamariêng của bạn hoặc trong một subprocess
- Mã khởi động cơ bản
import cria
ai = cria.Cria()
prompt = "Who is the CEO of OpenAI?"
for chunk in ai.chat(prompt):
print(chunk, end="")
Chưa có bình luận nào.