Korvus - SDK tìm kiếm mã nguồn mở hợp nhất pipeline RAG vào một truy vấn duy nhất

• Pipeline RAG (tạo sinh tăng cường truy xuất) mã nguồn mở
  • Kết hợp LLM, bộ nhớ vector, tạo embedding, rerank, tóm tắt và các mô hình tùy chỉnh trong một truy vấn duy nhất
  • Tối đa hóa hiệu năng và đơn giản hóa kiến trúc tìm kiếm
• Được xây dựng trên Postgres. Cung cấp binding cho Python, Javascript, Rust, C
  • Sử dụng phần mở rộng pgml của PostgresML và phần mở rộng pgvector để nén toàn bộ pipeline RAG vào bên trong PostgreSQL
• Cung cấp khả năng tìm kiếm tùy chỉnh hiệu năng cao trong khi giảm thiểu các vấn đề về hạ tầng

Tính năng chính

• Đơn giản hóa kiến trúc bằng cách thay thế kiến trúc hướng dịch vụ phức tạp bằng một truy vấn mạnh mẽ duy nhất
• Loại bỏ các lệnh gọi API và việc di chuyển dữ liệu để mang lại tốc độ xử lý nhanh hơn và độ ổn định cao hơn
• Cải thiện trải nghiệm nhà phát triển bằng phần mềm mã nguồn mở và các mô hình chạy cục bộ, kể cả trong Docker
• Hỗ trợ nhiều ngôn ngữ như Python, JavaScript, Rust
• Hợp nhất tạo embedding, tìm kiếm vector, xếp hạng lại và sinh văn bản vào một truy vấn duy nhất
• Thực hiện các phép toán Korvus nội bộ bằng các truy vấn SQL hiệu quả trên nền tảng cơ sở dữ liệu đã được kiểm chứng theo thời gian

Sức mạnh của SQL

• Korvus cung cấp giao diện cấp cao cho nhiều ngôn ngữ lập trình, nhưng các phép toán cốt lõi dựa trên các truy vấn SQL được tối ưu hóa
• Người dùng nâng cao có thể kiểm tra và hiểu các truy vấn nền tảng
• Có thể mở rộng khả năng của Korvus bằng cách sửa đổi hoặc bổ sung các phép toán SQL
• Có thể tận dụng các tính năng tối ưu hóa truy vấn nâng cao của PostgreSQL