- Hầu như mọi công ty mà Sequoia đầu tư đều đang đưa LLM như ChatGPT vào sản phẩm
- Dựa trên nội dung khảo sát các công ty trong mạng lưới của mình, họ đã tổng hợp 2 ngăn xếp AI
Ngăn xếp API LLM
- API LLM: OpenAI, Anthropic, Cohere
- Vector DB: AWS, pgvector, Pinecone, Qdrant, Weaviate, Chroma
- Framework: LangChain, LlamaIndex, Anarchy
- Chuyển văn bản thành giọng nói: Resemble.AI, ElevenLabs, Wellsaid
- Giám sát: DISTYL, Guardrails, Helicone, HoveHive, Autoblocks
Ngăn xếp huấn luyện / tinh chỉnh mô hình tùy chỉnh
- Tính toán: AWS, Azure, Google Cloud, Foundary, Lamba, MosaicML, Modal, Fireworks.ai
- Model Hub: Hugging Face, Replicate
- Framework: PyTorch, TensorFlow
- Thử nghiệm: Weights & Biases
- Giám sát/quan sát: Robust Intelligence, Gantry, Arthur, arise, Whylabs
- Hosting: Replicate, HuggingFace
Điểm chính
- Phần lớn các công ty đang xây dựng LLM vào sản phẩm
- Tập trung vào API mô hình ngôn ngữ, tìm kiếm và điều phối; việc sử dụng mã nguồn mở đang tăng
- Các công ty muốn tùy biến mô hình ngôn ngữ để phù hợp với ngữ cảnh riêng của mình
- Hiện tại, ngăn xếp API LLM và ngăn xếp huấn luyện mô hình có vẻ tách biệt, nhưng sẽ dần hợp nhất
- Ngăn xếp đang ngày càng thân thiện hơn với nhà phát triển
- Để mô hình ngôn ngữ được chấp nhận hoàn toàn, cần nâng cao độ tin cậy của chúng (chất lượng, quyền riêng tư dữ liệu, bảo mật)
- Các ứng dụng mô hình ngôn ngữ sẽ ngày càng trở nên đa phương thức hơn
- Vẫn còn ở giai đoạn cực kỳ sơ khai
3 bình luận
Có thể hiểu khá rõ bức tranh hiện tại của môi trường phát triển.
Nhưng trong trường hợp ở trong nước thì sẽ ở mức nào nhỉ?
Có vẻ như
Seaviatetrong danh sách Vector DB là lỗi chính tả của cơ sở dữ liệu vectorWeaviate!Mình đã sửa nhanh rồi hehe