- Trong bài báo mới công bố, Google cho biết hệ thống này nhanh hơn và hiệu quả hơn Nvidia
- Hiện Nvidia đang chiếm 90% thị trường AI, nhưng Google đã tự phát triển TPU từ năm 2016
- Từ năm 2020, Google đã sử dụng hơn 4.000 TPU và đã dùng chúng cho mô hình PaLM trong 50 ngày qua
- TPU v4 nhanh hơn 1,2~1,7 lần so với Nvidia A100 và tiêu thụ điện năng ít hơn 1,3~1,9 lần
- Tuy nhiên, đây không phải là so sánh với H100 mới nhất của Nvidia (trong benchmark MLPerf 3.0, H100 có hiệu năng gấp 4 lần A100)
3 bình luận
Không phải là họ vừa công bố đâu.
TPU v4 thực ra đã được công bố từ năm 2021, thậm chí còn có thể được sử dụng công khai trên cloud rồi. 1
Tin lần này là về một bài báo tổng kết mang tính hồi cố, được công bố sau vài năm vận hành thôi ha.
Về phần so sánh với H100, họ cũng nói sẽ triển khai thứ để đối ứng ngay trong năm nay.
À, đây là một tin khá dễ gây nhầm lẫn nhỉ. hu hu
Haha, tôi tìm thêm các tin khác thì thấy các bài viết đều viết như thể đó là thứ vừa mới được công bố, nên cũng dễ gây nhầm lẫn.
Trong bài báo thì họ nhiều lần nhắc đây là một bài báo retrospective (nghe nói đó là văn hóa của họ) mà.