Carton - chạy mô hình ML bằng một API duy nhất trên nhiều ngôn ngữ

• API mã nguồn mở cho mọi framework
• Đóng gói mô hình thành một tệp Zip duy nhất cùng với metadata, rồi tải tệp đó lên
• Mã suy luận có thể hoạt động độc lập với framework. Khi gọi Carton API, Carton sẽ gọi phần bên trong của framework
• Được triển khai bằng Rust và cung cấp binding cho từng ngôn ngữ
• Hỗ trợ x86_64 Linux và macOS, aarch64 Linux và macOS, WebAssembly
• Khác với ONNX là chuyển đổi mô hình, Carton không chuyển đổi mà chỉ bọc lại