Token.js - Kết nối hơn 200 LLM chỉ với một SDK

• Gọi hơn 200 LLM từ 10 nhà cung cấp bằng định dạng OpenAI
  • AI21, Anthropic, AWS Bedrock, Cohere, Gemini, Groq, Mistral, OpenAI, Perplexity, OpenRouter
• Hỗ trợ tools, đầu ra JSON, đầu vào hình ảnh, streaming, v.v.
• Hoạt động hoàn toàn ở phía client mà không cần máy chủ proxy

[ragingwind]

Có vẻ khá giống với những gì AI SDK cung cấp.

[kairess]

Muốn có gói Python ghê.

[wkbae]

Python có https://github.com/BerriAI/litellm