- Có thể truy vấn LLM (mô hình ngôn ngữ lớn) bằng ngôn ngữ tự nhiên, nhưng đôi khi LLM không hiểu chính xác ý định của con người
- Nhóm nghiên cứu SRIlab (Secure, Reliable, and Intelligent Systems Lab) của ETH Zürich, Thụy Sĩ đã đưa ra khái niệm LMP (Language Model Programming) để giải quyết vấn đề này
- Ngôn ngữ và nền tảng hiện thực hóa khái niệm LMP chính là LMQL (Language Model Query Language)
- Cú pháp khai báo tương tự câu lệnh SQL
- Áp đặt các ràng buộc rõ ràng lên kết quả đầu ra của LLM để kiểm soát cách hoạt động, tránh tạo ra các kết quả ngoài dự kiến
- Được triển khai bằng Python, nên có thể dùng hàm Python hoặc luồng điều khiển trong truy vấn AI
- Có thể sử dụng GPT-4 thông qua OpenAI API và các mô hình transformer được lưu trữ cục bộ
- Giúp tiết kiệm token tiêu thụ, nên có thể giảm 26~85% chi phí sử dụng API trả phí
- Bài báo: https://doi.org/10.48550/arXiv.2212.06094
- Tài liệu: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
Chưa có bình luận nào.