Project Digits của Nvidia, “siêu máy tính AI cá nhân”

• Giới thiệu Project Digits của Nvidia

  • Nvidia đã công bố Project Digits tại CES 2025, một "siêu máy tính AI cá nhân"
  • Cung cấp nền tảng phần cứng Grace Blackwell ở kích thước gọn nhỏ
  • Đây là nền tảng điện toán đám mây có thể chạy toàn bộ ngăn xếp phần mềm AI của Nvidia

• Đặc điểm kỹ thuật của Project Digits

  • Được thiết kế dành cho nhà nghiên cứu AI, nhà khoa học dữ liệu và sinh viên
  • Tích hợp GB10 Grace Blackwell Superchip, cung cấp hiệu năng tính toán tối đa 1 petaflop
  • Có thể chạy các mô hình với tối đa 200 tỉ tham số
  • Bao gồm GPU Nvidia Blackwell và CPU Nvidia Grace 20 nhân, do MediaTek cùng hợp tác phát triển
  • Cung cấp 128GB RAM và tối đa 4TB bộ nhớ flash

• Tính mở rộng và giá

  • Có thể kết nối hai thiết bị Project Digits để chạy mô hình tối đa 4.050 tỉ tham số
  • Có thể cung cấp trải nghiệm độc lập hoặc kết nối với PC Windows hoặc Mac
  • Giá bắt đầu từ 3.000 USD, và sẽ có sẵn để mua từ tháng 5 qua các đối tác chủ chốt

• Thị trường và tầm nhìn

  • Jensen Huang, CEO của Nvidia, cho rằng Project Digits sẽ cung cấp siêu máy tính AI cho hàng triệu nhà phát triển
  • Hỗ trợ các nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên đóng góp vào việc định hình kỷ nguyên AI

• Thông tin khác

  • Sẽ có thêm bản cập nhật liên quan đến thông báo của Nvidia tại CES 2025
  • Bài viết được viết bởi Kyle Wiggers của TechCrunch

[berry]

Hy vọng hiệu năng cũng sẽ tốt như lời quảng bá và việc bảo trì cũng được thực hiện tốt.

[GN⁺]

Ý kiến trên Hacker News

• Nvidia Jetson Nano đã trở nên không còn giá trị chỉ sau 4 năm kể từ khi ra mắt vì bị ngừng hỗ trợ. Sản phẩm này ra mắt dựa trên Ubuntu 18.04, nhưng sau đó không còn cập nhật nữa nên ngăn xếp Machine Learning trở nên vô dụng. Tôi sẽ không mua SBC của Nvidia trừ khi việc hỗ trợ phần mềm được tích hợp vào nhân Linux

• Khi sự quan tâm đến AI và LLM ngày càng tăng, Nvidia có thể bắt đầu chiếm lĩnh thị trường nhà phát triển AI của Apple. Tôi đã từng muốn sở hữu cổ phiếu của Nvidia

• DGX OS 6 dựa trên Ubuntu 22.04, bao gồm cả phần cứng mới nhất và các bản cập nhật bảo mật. Nó hỗ trợ GPU Direct Storage và cho phép truy cập tất cả driver GPU của Nvidia cùng các phiên bản CUDA toolkit

• Giá trị của Nvidia không thể so sánh với các giải pháp đám mây, đặc biệt khi xử lý dữ liệu cá nhân hoặc bí mật doanh nghiệp, việc dữ liệu không đi ra ngoài là rất quan trọng

• Nvidia đã phát hành một siêu máy tính để bàn Linux với hiệu năng/giá tốt hơn Wintel, và stack phần mềm mới chỉ chạy được trên WSL2

• IBM Roadrunner là siêu máy tính đầu tiên đạt 1 petaflop, và Nvidia Project Digits cũng cung cấp 1 petaflop cho việc chạy mô hình AI

• Trong thị trường tin tin sinh học, Illumina đang tăng tốc phân tích bộ gen bằng chip phần cứng DRAGEN, trong khi Oxford Nanopore sử dụng GPU nhưng hiệu năng của nó bị giới hạn bởi kích thước và nhu cầu năng lượng

• Nvidia đã tung ra thiết bị suy luận cục bộ 128GB giá rẻ, làm điều mà Intel/AMD đáng lẽ phải làm, có thể đe dọa hệ sinh thái CUDA

• Hình ảnh này dường như được tạo ra bằng AI

• Sản phẩm mới của Nvidia không phải chỉ là một thiết bị phụ, mà là một chiếc máy tính hoàn chỉnh chạy Linux. Trong tương lai, có khả năng mọi người đều sẽ sở hữu những thiết bị như vậy