- Khoảng 10 năm trước, các nhà nghiên cứu của Google đã dự đoán rằng nhu cầu tính toán cho AI sẽ vượt quá năng lực hạ tầng khi đó
- Khi nhận ra trên thị trường không có lựa chọn thay thế nào có thể đáp ứng nhu cầu thời điểm đó, họ bắt đầu phát triển một loại chip mới là TPU (Tensor Processing Unit)
Chip đơn dụng cho một mục đích cụ thể
- Trong khi CPU đóng vai trò là “bộ não” đa năng của máy tính, TPU là loại chip chuyên dụng được tối ưu hóa cho AI
- TPU là một ASIC (application-specific integrated circuit) chuyên biệt cho các phép toán ma trận và vector cần thiết để xây dựng và vận hành mô hình AI
- TPU v1, được triển khai nội bộ vào năm 2015, đã ngay lập tức trở thành cú hit trên toàn Google, và trong 10 năm sau đó TPU tiếp tục phát triển về hiệu năng lẫn hiệu quả
Theo kịp đổi mới AI
- Quá trình tiến hóa của TPU gắn chặt với các đổi mới trong machine learning và AI
- TPU v1 tập trung vào suy luận, nhưng không lâu sau Google đã phát triển siêu máy tính huấn luyện TPU v2 để nâng cao hiệu quả huấn luyện mô hình
- Sau đó, TPU được phát hành với nhịp độ nhanh hơn và đạt những bước nhảy vọt lớn về hiệu năng, hiệu quả và năng lực xử lý
- Ở thế hệ mới nhất, tốc độ xử lý dữ liệu nhanh đến mức ngay cả việc đi dây cáp kết nối giữa các chip cũng cần được chú ý
Chia sẻ công nghệ này rộng rãi hơn
- Ngay từ đầu, không chỉ riêng Google tìm kiếm cách tốt hơn để phát triển và vận hành mô hình AI
- Đầu năm 2018, Google Cloud đã ra mắt thế hệ Cloud TPU đầu tiên để giúp khách hàng tăng tốc các workload huấn luyện và suy luận của riêng họ
- Ngày nay, những đội ngũ AI nổi tiếng như Anthropic, Midjourney và Salesforce đang sử dụng Cloud TPU ở mức độ lớn
- Toàn bộ năng lực xử lý này vẫn mới chỉ là sự khởi đầu
- Trong tương lai, công ty có kế hoạch thay đổi thiết kế trung tâm dữ liệu để phù hợp hơn với các yêu cầu của TPU
- Vượt ra ngoài một con chip đơn lẻ hay một TPU pod đơn lẻ, Google đang xây dựng một mạng lưới trung tâm dữ liệu toàn cầu đầy ắp TPU
- Tương lai sẽ là tùy biến full stack từ silicon đến bê tông (The future is full stack customization all the way, from silicon to concrete)
2 bình luận
TPU đúng là một bước nhìn xa trông rộng
Google đã thể hiện điều đó rất rõ ở khâu xử lý camera đơn trên Pixel 2 XL, và đến thời đại LLM thì nó bước vào thời kỳ hoàng kim.
Vì vậy nên làm ơn cập nhật board coral micro dev với.... hu hu hu hu
Bộ xử lý hình ảnh có trong các mẫu Pixel đời đầu, từng được gọi là Visual Core, dựa trên nền tảng Monette Hill của Intel.