NVIDIA công bố DIGITS, siêu máy tính AI cá nhân với RAM 128GB dựa trên LPDDR5X
- NVIDIA đã công bố DIGITS, siêu máy tính AI cá nhân với RAM 128GB, tại CES tổ chức ở Las Vegas vào ngày 7 tháng 1 năm 2025 (giờ địa phương)
- DIGITS được trang bị siêu chip NVIDIA GB10 Grace Blackwell mới của NVIDIA
- Mục tiêu của NVIDIA là giúp mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên đều có một siêu máy tính AI trên bàn làm việc để họ có thể tham gia vào kỷ nguyên AI
Hiệu năng của siêu chip GB10 mới của NVIDIA
- Siêu chip GB10 là một 'system on chip' (SoC) dựa trên kiến trúc NVIDIA Grace Blackwell, cung cấp khả năng tính toán tối đa 1 petaflop (PetaFlop, 10¹⁵/s, 1.000 nghìn tỷ phép tính mỗi giây) ở độ chính xác FP4
- GB10 tích hợp GPU NVIDIA Blackwell với các nhân CUDA® thế hệ mới nhất và Tensor Core thế hệ thứ 5
- Thông qua kết nối chip-to-chip NVLink®-C2C, nó được liên kết với CPU dựa trên kiến trúc Arm có 20 nhân
- MediaTek, đơn vị dẫn đầu thị trường trong lĩnh vực thiết kế SoC dựa trên Arm, đã hợp tác thiết kế GB10
Thông số sơ bộ của siêu máy tính AI cá nhân DIGITS
- DIGITS được trang bị bộ nhớ hợp nhất, nhất quán (unified, coherent memory) 128GB và tối đa 4TB bộ nhớ NVMe
- Ở đây, bộ nhớ hợp nhất, nhất quán là một khái niệm khác với VRAM của GPU; DIGITS sử dụng chip LPDDR5X để cấu hình 128GB bộ nhớ
- Có thể chạy LLM tối đa 200B (200 tỷ) tham số
- Thông qua mạng NVIDIA ConnectX®, có thể kết nối hai siêu máy tính AI DIGITS để chạy LLM tối đa 405B tham số
Ngày phát hành dự kiến và giá bán
- DIGITS sẽ có mặt từ tháng 5 năm nay thông qua các đối tác hàng đầu của NVIDIA, với giá khởi điểm từ $3000 (theo tỷ giá ngày 2025-01-08 là khoảng 4,37 triệu won)
Ước tính băng thông bộ nhớ (tốc độ) của DIGITS
- Băng thông bộ nhớ là một chỉ số tiêu biểu thường được dùng để ước tính tốc độ của GPU
- Các thông số chi tiết của DIGITS, bao gồm băng thông bộ nhớ, vẫn chưa được công bố
- Một bài báo cho rằng theo hình ảnh NVIDIA công bố, DIGITS có vẻ được trang bị 6 mô-đun LPDDR5X, và từ đó ước tính băng thông bộ nhớ ở mức 825GB/s.
- Mức này nhanh hơn 2,3 lần so với 360GB/s của RTX 3060, và chậm hơn khoảng 0,8 lần so với 1008GB/s của RTX 4090; xét việc máy có 128GB RAM thì đây là hiệu năng khá tốt
- Tuy nhiên, đây chỉ là một ước tính cá nhân chưa thật sự rõ ràng, và hiệu năng chi tiết chỉ có thể xác định khi thông số đầy đủ được công bố
7 bình luận
Haha, RAM hệ thống thông thường 128GB mà gọi là siêu máy tính cá nhân à..?
Đến con Shih Tzu nhà tôi cũng phải cười, ngài Huang ạ.
Giá mà qua bản vá Hàn Quốc chắc cũng lên tới 600 mất…
Vậy thì sẽ dùng hệ điều hành nào nhỉ?
Chắc là Linux nhỉ? Ubuntu
Nói cách khác... so với các mẫu có iGPU hiệu năng cao của AMD (như 8840HS) thì..
Ý là vậy đúng không?
Có vẻ có vị thế tương tự M4 Mac mini, nhưng bên này không đa dụng bằng, đổi lại mang cảm giác hiệu năng trên giá thành tốt hơn.
Ngoài lề một chút, liệu máy này có chạy game tốt không?
Vì khác với GPU thông thường, chẳng hạn như có 128GB bộ nhớ hợp nhất và nhất quán, nên mình cũng không chắc nó sẽ thế nào!
Ở bài khác cũng có nói rằng nó sẽ không phù hợp để chơi game: https://dirox.com/post/nvidia-project-digits