OpenLLMetry - khả năng quan sát mã nguồn mở dành cho ứng dụng LLM

• Cung cấp khả năng hiển thị tích hợp toàn diện cho các ứng dụng LLM
• Do được xây dựng nội bộ trên nền tảng OpenTelemetry, nên cũng có thể tích hợp với các giải pháp hiện có như Datadog, New Relic, Grafana Tempo và Splunk
• Có thể thực hiện instrumentation
  • LLM: OpenAI/Azure OpenAI, Anthropic, Cohre, HuggingFace, AWS Bedrock, Vertext AI, Replicate, IBM WatsonX
  • Vector DB: Chroma, Pinecone, Qdrant, Weaviate, Milvus
  • Frameworks: LangChain, LlamaIndex, Haystack, LiteLLM
• Cũng cung cấp riêng OpenLLMetry-JS cho phiên bản JS/TS