1 điểm bởi carnoxen 2023-08-23 | Chưa có bình luận nào. | Chia sẻ qua WhatsApp

AI vận hành qua hai giai đoạn: huấn luyện, tức điều chỉnh các tham số bằng dữ liệu được cung cấp, và suy luận, tức giải quyết vấn đề dựa trên các tham số đã được tạo ra. Trước đây AI chủ yếu chỉ được vận hành trong giới nghiên cứu, nhưng với sự xuất hiện của ChatGPT, giờ đây ngay cả người dùng phổ thông cũng đã trở nên quen thuộc với AI.

Hiệu năng của AI chịu ảnh hưởng rất lớn từ phần cứng như GPU và NPU. Trong số các công ty sản xuất loại phần cứng này, NVIDIA đang nắm thị phần áp đảo, đặc biệt ở mảng huấn luyện. Trong khi đó, mảng suy luận có độ khó thấp hơn huấn luyện nên ngày càng có nhiều công ty xuất hiện để cạnh tranh với NVIDIA. Trong bối cảnh đó, Rebellions đã đưa ra lời thách thức.

Coi trọng nhân tài, công ty này được thành lập bởi 4 giám đốc đều có bằng thạc sĩ hoặc tiến sĩ liên quan đến AI. Ban đầu họ thiết kế các con chip cần thiết cho các công ty tài chính, rồi sau đó mở rộng phạm vi sang cả chip suy luận AI.

Các sản phẩm do công ty tạo ra gồm có như sau.

ION, dòng chip chuyên biệt cho ngành tài chính, là sản phẩm đầu tiên của công ty, điều này có thể thực hiện được nhờ CEO Park Seong-hyeon và CTO Oh Jin-wook có kinh nghiệm thiết kế chip. Chip có thể xử lý đồng thời số nguyên và số thực, cho phép tùy ý điều chỉnh ISA, và hỗ trợ nhiều thuật toán liên quan đến deep learning. Ngoài ra, nó còn có hiệu suất điện năng cao (TOPS/Watt) và được cho là có thể xây dựng máy chủ siêu độ trễ thấp (Ultra Low Latency, ULL).

ATOM, được ra mắt tiếp theo, là con chip được thiết kế cho suy luận AI. Để tăng tốc suy luận, nó bổ sung bộ nhớ và chức năng giao tiếp giữa các lõi bên trong chip (network on chip, NoC), những thứ ION chưa có. Nhờ đó, chip này đã vượt Qualcomm với khoảng cách đáng kể trong hiệu năng mô hình BERT của MLPerf.

Công ty không chỉ làm phần cứng mà còn phát triển cả compiler cho chip AI. Công cụ này được xây dựng dựa trên Apache TVM mã nguồn mở và cũng bao gồm các tính năng có tính đến môi trường cloud.

Có vẻ như công ty đang nhắm đến các doanh nghiệp vận hành trung tâm dữ liệu quy mô lớn làm khách hàng. Khác với laptop hay smartphone vốn có nhiều ràng buộc, trung tâm dữ liệu có thể tiếp nhận hầu như mọi loại workload và cho phép tùy biến hệ thống một cách dễ dàng. Hơn nữa, thị trường liên quan đến trung tâm dữ liệu và suy luận AI cũng đang tăng trưởng, nên công ty càng cần nhắm mạnh hơn vào lĩnh vực này.

Hiện vẫn chưa có tin tức về hợp đồng cho ION, nhưng ATOM đã được cung cấp đều đặn cho KT từ năm 2023. Thêm vào đó, công ty đã nhận được các khoản đầu tư rất lớn từ Kakao và chính phủ, nên có thể cảm nhận rằng trong tương lai họ sẽ còn phát triển mạnh hơn nữa.

Chưa có bình luận nào.

Chưa có bình luận nào.