- Giảm việc truy cập bộ nhớ ngoài để tăng hiệu năng tính toán và tiết kiệm năng lượng
- Kết hợp bộ nhớ và xử lý trong cùng một nơi (tích hợp quy mô lớn giữa tính toán và bộ nhớ)
- Gồm 256 lõi, và mỗi đơn vị lõi đều có bộ nhớ riêng, nhờ đó giảm bớt nút thắt cổ chai von Neumann
- Các lõi được kết nối với nhau bằng một mạng lấy cảm hứng từ các kết nối chất trắng (white-matter connections) giữa vỏ não người (human cerebral cortex)
- Trong các bài kiểm thử benchmark tiêu chuẩn về nhận diện hình ảnh, nó vượt qua các máy AI hiện có với cách biệt đáng kể
- Ngoài ra, dù không sử dụng quy trình sản xuất thu nhỏ mới nhất, nó vẫn chỉ tiêu thụ 1/5 năng lượng của các chip AI tiên tiến nhất
- Nếu được triển khai bằng quy trình sản xuất mới nhất, hiệu quả sẽ tốt hơn 25 lần so với thiết kế hiện tại
- Tuy nhiên, RAM 224MB của NorthPole không đủ cho các mô hình ngôn ngữ lớn như loại được dùng trong chatbot ChatGPT, vốn chiếm hàng nghìn megabyte dữ liệu ngay cả ở phiên bản nén nhất
- Con chip này chỉ có thể chạy các mạng nơ-ron được lập trình sẵn và phải được "huấn luyện" trước trên một máy tính riêng
- Các tác giả của bài báo cho rằng kiến trúc NorthPole có thể hữu ích cho các ứng dụng mà tốc độ là yếu tố quan trọng, chẳng hạn như xe tự lái
1 bình luận
Xét về cách dùng và hiệu năng thì nó cho cảm giác hơi giống FPGA.