GoMLX - Làm ML bằng Go không cần Python

• Một package cho phép triển khai mô hình machine learning (ML) bằng ngôn ngữ Go, được thiết kế để có thể thực hiện các tác vụ ML mà không phụ thuộc vào Python
• Cung cấp một lựa chọn thay thế cho các framework ML xoay quanh Python như TensorFlow (TF), JAX, PyTorch, đồng thời tận dụng hiệu quả phần cứng tương đương trên nền tảng Go
• Sử dụng các công nghệ compiler và runtime cấp thấp như XLA và PJRT để mang lại hiệu năng được tối ưu hóa

Các đặc điểm chính

• Xây dựng mô hình ML không cần Python
  • Có thể tạo, huấn luyện và suy luận mô hình chỉ với ngôn ngữ Go, loại bỏ mã Python
  • Hỗ trợ tạo đồ thị tính toán, tự động vi phân và huấn luyện mô hình theo cách có mức độ biểu đạt tương tự các framework ML hiện có
• Tận dụng XLA và PJRT
  • Dùng stack OpenXLA để hỗ trợ các phép toán tối ưu theo phần cứng, đồng thời sử dụng cùng các thành phần nền tảng mà TensorFlow và JAX đang dùng
  • Bao gồm các tính năng nâng cao như tự động vi phân, quản lý dữ liệu tensor, phân chia tác vụ
• Ví dụ triển khai mô hình CNN
  • Triển khai mô hình CNN (mạng nơ-ron tích chập) bằng Go với bộ dữ liệu CIFAR-10
  • Mô hình được triển khai bằng GoMLX mà không cần Python đạt hiệu năng tương tự mô hình được huấn luyện bằng TensorFlow+Keras
• Trường hợp thực tế: mô hình Gemma2
  • Tận dụng trọng số Gemma2 LLM (Large Language Model) do HuggingFace cung cấp để chạy suy luận LLM ở mức production thực tế
  • Có thể chạy các mô hình nâng cao như Gemma2 ngay cả khi không có Python

Tóm tắt

• GoMLX hỗ trợ triển khai, huấn luyện và suy luận mô hình ML trên nền Go, đồng thời loại bỏ sự phụ thuộc vào Python
• Tận dụng XLA và PJRT để cung cấp các phép toán tối ưu theo phần cứng và các tính năng ML nâng cao
• Ngay cả không có Python, vẫn có thể thực hiện các tác vụ phức tạp như mô hình CNN với CIFAR-10 và suy luận Gemma2 LLM
• GoMLX vẫn đang ở giai đoạn đầu, nhưng mở ra khả năng triển khai ML không cần Python và hứa hẹn tiếp tục phát triển