Hodu: Bộ công cụ ML thân thiện với người dùng được phát triển bằng Rust

Đây là một bộ công cụ machine learning dễ sử dụng, từ tạo prototype đến triển khai, với tính an toàn bộ nhớ và zero-cost abstraction.

Hiện đây là một dự án đang được phát triển bởi một cá nhân. Dù vẫn còn ở giai đoạn đầu phát triển, các tính năng cốt lõi đã phần nào ổn định nên tôi muốn chia sẻ với mọi người. Mọi phản hồi hay ý kiến đóng góp đều rất được trân trọng.

Những gì Hodu cung cấp:

• hodu-lib: Thư viện ML cốt lõi, cung cấp các phép toán tensor an toàn về bộ nhớ và khả năng xây dựng mô hình thông qua hệ thống ownership của Rust và zero-cost abstraction. Hỗ trợ nhiều backend như CPU, CUDA, Metal
• hodu-cli: Công cụ dòng lệnh hỗ trợ suy luận mô hình, chuyển đổi định dạng và biên dịch AOT sang thư viện native. Tích hợp sẵn chức năng quản lý plugin
• hodu-plugin-sdk: SDK cho phép tạo plugin tùy chỉnh thông qua JSON-RPC. Có thể bổ sung các định dạng mô hình mới (ONNX, TensorFlow), định dạng tensor (NumPy, SafeTensors) và backend thực thi