- Giúp các nhà phát triển ứng dụng có thể sử dụng LLM theo những cách mạnh mẽ hơn trong nhiều lĩnh vực
- LLM và prompt: quản lý prompt, tối ưu hóa prompt, giao diện chung cho LLM
- Chains: kết nối nhiều lần gọi LLM
- Data Augmented Generation: lấy và xử lý thông tin từ các nguồn dữ liệu bên ngoài. Có thể tóm tắt bài viết bên ngoài hoặc thực hiện QA
- Agents: giao diện cho các agent quyết định hành động cần thực hiện, sau đó hành động, quan sát và lặp lại quá trình này cho đến khi hoàn tất
- Memory: lưu trạng thái giữa các lần gọi chain/agent. Hỗ trợ tính năng bộ nhớ thông qua giao diện tiêu chuẩn
- Evaluation: đánh giá bằng các chỉ số truyền thống thông qua mô hình ngôn ngữ
- Mã nguồn mở Python
1 bình luận
Đúng là mọi thứ được tạo ra rất nhanh.