OmniRoute — Cổng gateway gom các tier AI miễn phí/giá rẻ rải rác vào một nơi

xguru · 2026-07-23T09:31:01+09:00

Kết nối 271 nhà cung cấp/hơn 500 mô hình qua một endpoint cục bộ duy nhất (localhost:20128/v1), và dùng chung một cấu hình cho 26 công cụ lập trình như Claude Code/Codex/Cursor/Cline/Copilot Tích hợp hơn 90 tier miễn phí/hơn 40 gói miễn phí vĩnh viễn, cho phép dùng khoảng 1,4 tỷ token miễn phí mỗi tháng như một ngân sách duy nhất Tự động fallback để nối các tier như thể là một — ưu tiên tiêu thụ các gói thuê bao đã trả tiền trước (không dùng thì phí), khi hết sẽ tự động chuyển theo thứ tự API trả theo mức dùng → giá rẻ → miễn phí để tiếp tục chạy mà không vướng giới hạn Không chạy theo thứ tự giá tăng dần mà theo thứ tự “đốt tài nguyên đã có sẵn trước”; nếu muốn ưu tiên chi phí thấp nhất thuần túy thì chỉ định riêng bằng chiến lược cost-optimized/auto/cheap Với nén stack RTK + Caveman, giảm token mỗi request từ 15~95% (trung bình khoảng 89% ở các phiên thiên về công cụ), đồng thời giữ nguyên code/URL/JSON ở mức byte Với Quota-Share, phân phối một gói thuê bao cho nhiều key trong nhóm; phần nhàn rỗi được cho mượn theo cơ chế work-conserving nên nhu cầu tăng vọt của một người không làm khóa toàn bộ hệ thống Hỗ trợ 18 chiến lược định tuyến cùng smart routing auto không cần cấu hình (chấm điểm thời gian thực theo 12 yếu tố), fusion (panel + bộ phân xử), pipeline (liên kết theo bước), v.v. Tự phục hồi 3 tầng (circuit breaker phía provider / cooldown kết nối / lockout mô hình) để ứng phó theo từng loại sự cố và giảm thiểu downtime Với giao thức MCP(104 công cụ)/A2A(JSON-RPC 2.0), agent có thể tự chủ điều khiển gateway Kiến trúc ưu tiên cục bộ: key được mã hóa AES-256-GCM, không telemetry, không cần tài khoản/đăng ký, tích hợp sẵn bảo vệ prompt injection Đa nền tảng Web/Desktop(Electron)/Android(Termux)/PWA, hỗ trợ 43 locale Cài đặt: npm install -g omniroute Giấy phép MIT

Kết nối 271 nhà cung cấp/hơn 500 mô hình qua một endpoint cục bộ duy nhất (localhost:20128/v1), và dùng chung một cấu hình cho 26 công cụ lập trình như Claude Code/Codex/Cursor/Cline/Copilot
Tích hợp hơn 90 tier miễn phí/hơn 40 gói miễn phí vĩnh viễn, cho phép dùng khoảng 1,4 tỷ token miễn phí mỗi tháng như một ngân sách duy nhất
Tự động fallback để nối các tier như thể là một — ưu tiên tiêu thụ các gói thuê bao đã trả tiền trước (không dùng thì phí), khi hết sẽ tự động chuyển theo thứ tự API trả theo mức dùng → giá rẻ → miễn phí để tiếp tục chạy mà không vướng giới hạn
- Không chạy theo thứ tự giá tăng dần mà theo thứ tự “đốt tài nguyên đã có sẵn trước”; nếu muốn ưu tiên chi phí thấp nhất thuần túy thì chỉ định riêng bằng chiến lược cost-optimized/auto/cheap
Với nén stack RTK + Caveman, giảm token mỗi request từ 15~95% (trung bình khoảng 89% ở các phiên thiên về công cụ), đồng thời giữ nguyên code/URL/JSON ở mức byte
Với Quota-Share, phân phối một gói thuê bao cho nhiều key trong nhóm; phần nhàn rỗi được cho mượn theo cơ chế work-conserving nên nhu cầu tăng vọt của một người không làm khóa toàn bộ hệ thống
Hỗ trợ 18 chiến lược định tuyến cùng smart routing auto không cần cấu hình (chấm điểm thời gian thực theo 12 yếu tố), fusion (panel + bộ phân xử), pipeline (liên kết theo bước), v.v.
Tự phục hồi 3 tầng (circuit breaker phía provider / cooldown kết nối / lockout mô hình) để ứng phó theo từng loại sự cố và giảm thiểu downtime
Với giao thức MCP(104 công cụ)/A2A(JSON-RPC 2.0), agent có thể tự chủ điều khiển gateway
Kiến trúc ưu tiên cục bộ: key được mã hóa AES-256-GCM, không telemetry, không cần tài khoản/đăng ký, tích hợp sẵn bảo vệ prompt injection
Đa nền tảng Web/Desktop(Electron)/Android(Termux)/PWA, hỗ trợ 43 locale
Cài đặt: npm install -g omniroute
Giấy phép MIT

OmniRoute — Cổng gateway gom các tier AI miễn phí/giá rẻ rải rác vào một nơi

Bài viết liên quan

2 bình luận