Lanarky - Framework mã nguồn mở để triển khai LLM vào production

• Dựa trên FastAPI
• Streaming token đa chế độ
• Chatbot gradio đơn giản để tạo prototype nhanh
• Hỗ trợ ứng dụng LangChain
• Nhiều chiến lược cache LLM
• Sắp hỗ trợ: hỗ trợ LlamaIndex, Guidance, Rebuff và tích hợp SQL DB