Spring AI Playground – mã nguồn mở thử nghiệm tích hợp MCP·RAG·LLM

Xin chào!
Xin giới thiệu 'Spring AI Playground', một playground tích hợp AI dành cho lập trình viên.

Bạn đã từng gặp bất tiện khi phải thử nghiệm trong quá trình phát triển các dịch vụ AI hiện có chưa?

• Mỗi lần thử nghiệm LLM, cơ sở dữ liệu vector, quy trình RAG... lại phải thiết lập môi trường phức tạp
• Mất thời gian phát triển vì cách tích hợp API khác nhau ở mỗi lần
• Với lập trình viên Java, các công cụ AI thiên về Python đặc biệt là một rào cản để bắt đầu

Vì vậy, tôi bắt đầu phát triển với mục tiêu "thực hiện mọi thử nghiệm AI trên một màn hình".

Các tính năng chính:

• Hỗ trợ hơn 18 cơ sở dữ liệu vector ngoài local In-memory Vectorstore mặc định (Chroma, Milvus, PGVector, OpenSearch, Elasticsearch...)
• Tích hợp các nhà cung cấp AI chính (OpenAI, Anthropic, Ollama, Google, Amazon, Microsoft)
• Có thể xây dựng AI agent nhờ áp dụng sớm MCP (Model Context Protocol)
• Hỗ trợ PWA để cài đặt và sử dụng như một ứng dụng ngay trong trình duyệt
• Dựa trên framework Spring AI, mang lại môi trường quen thuộc cho lập trình viên Java

Những gì có thể làm trong Spring AI Playground:

• Kết nối và kiểm thử MCP Tool: liên kết công cụ bên ngoài với mô hình AI
• Kết nối gần như mọi LLM: dễ dàng chuyển đổi giữa OpenAI, Ollama, mô hình local...
• Tích hợp Vector DB: kết nối hầu hết các cơ sở dữ liệu vector phổ biến để thử nghiệm tìm kiếm tương đồng
• Quy trình RAG: từ tải lên dữ liệu PDF, Word, PowerPoint đến tạo embedding, tìm kiếm và phản hồi, toàn bộ quy trình đều được cấu hình bằng GUI
• Kiểm thử LLM Chat tích hợp: sau khi thiết lập MCP và RAG, có thể kiểm thử tích hợp trong một lần

Các playground cốt lõi:

• MCP Tool Playground (Inspector) - kết nối và kiểm thử công cụ bên ngoài
• Vector DB Playground - tải tài liệu lên, embedding, kiểm thử tìm kiếm
• Chat Playground - kiểm thử AI hội thoại tích hợp MCP và RAG

Chạy thử trong 5 phút (nếu đã cài git, ollama, docker, java 21 trở lên):

git clone https://github.com/JM-Lab/spring-ai-playground.git  
cd spring-ai-playground  
./mvnw spring-boot:build-image -Pproduction -DskipTests=true  
docker run -p 8282:8282 -e SPRING_AI_OLLAMA_BASE_URL=http://host.docker.internal:11434 jmlab/spring-ai-playground:latest  

Sau đó truy cập http://localhost:8282

Chia sẻ quá trình phát triển:
Ban đầu, dự án được bắt đầu như một công cụ phục vụ học tập cá nhân, nhưng khi tính năng dần được bổ sung, nó đã trở thành một môi trường phát triển và kiểm thử AI all-in-one, nơi có thể thực hiện các thí nghiệm AI tại một chỗ. Đặc biệt, mục tiêu là giúp các lập trình viên Java có thể dễ dàng thử nghiệm các công nghệ AI mới nhất mà không cần môi trường Python.

Đóng góp mã nguồn mở:
Cung cấp các trường hợp sử dụng thực tế và best practice cho hệ sinh thái Spring AI
Đưa ra một lựa chọn thay thế cho các công cụ AI thiên về Python trong cộng đồng Java

Kế hoạch sắp tới:
Phát triển thành Spring AI Agent Playground với việc bổ sung các tính năng phát triển, kiểm thử và triển khai AI Agent

Tôi nghĩ dự án này sẽ hữu ích với các lập trình viên Java muốn kiểm thử tính năng AI ở môi trường local. Mọi phản hồi đều luôn được chào đón!

Liên kết dự án: https://github.com/JM-Lab/spring-ai-playground