NeumAI - Khung RAG mã nguồn mở quy mô lớn

• Nền tảng dữ liệu giúp các nhà phát triển tận dụng dữ liệu để cung cấp ngữ cảnh cho mô hình ngôn ngữ lớn thông qua Retrieval Augmented Generation (RAG)
  • Trích xuất dữ liệu từ các nguồn dữ liệu hiện có như kho tài liệu và NoSQL
  • Xử lý nội dung thành vector embedding
  • Thu thập vector embedding vào cơ sở dữ liệu vector để tìm kiếm độ tương đồng
• Giải pháp RAG toàn diện có thể mở rộng theo ứng dụng và giúp giảm thời gian cần thiết để tích hợp các dịch vụ như data connector, mô hình embedding và cơ sở dữ liệu vector

Tính năng

• Kiến trúc phân tán hiệu năng cao có thể xử lý hàng chục tỷ điểm dữ liệu: tối ưu hóa việc tạo và thu thập embedding thông qua mức độ song song hóa cao
• Data connector tích hợp sẵn hỗ trợ các nguồn dữ liệu phổ biến, dịch vụ embedding và vector store
• Đồng bộ hóa nguồn dữ liệu theo thời gian thực để luôn giữ dữ liệu ở trạng thái mới nhất
• Tiền xử lý dữ liệu có thể tùy chỉnh dưới các hình thức như tải, chia khối và lựa chọn
• Quản lý dữ liệu nhất quán hỗ trợ tìm kiếm lai thông qua metadata: tự động bổ sung và theo dõi metadata để mang lại trải nghiệm tìm kiếm phong phú