So sánh Nvidia 4090 và M1/M2/M3 với MLX bằng Whisper

• Điểm benchmark hiệu năng của MLX, framework machine learning do Apple công bố
• Chuyển lời nói thành văn bản cho một đoạn âm thanh dài 10 phút bằng Whisper
  • M1 Pro (mẫu 2021) + MLX + RAM 32GB: 216 giây
  • I7 + 4090 + RAM 64GB: 186 giây
    • GPU giá 2000€ nhanh hơn M1 30 giây (16%)
  • M2 Ultra (76 GPU): 95 giây
  • M3 Max (40 GPU): 100 giây
• Nếu dùng insanely-fast-whisper được tối ưu cho Nvidia thì 4090 chỉ mất 8 giây
  • Chạy mô hình này trên M1 thì mất 359 giây, còn lâu hơn

[xguru]

So sánh Nvidia 4090 với M1/M2/M3 bằng Whisper

MLX - framework mảng tương tự Numpy dành cho Apple Silicon