Intel công bố Aurora genAI, mô hình AI tạo sinh cho khoa học với 1 nghìn tỷ (1T) tham số

• Dự kiến sẽ chạy trên siêu máy tính Aurora 2 Exaflops, đi vào hoạt động vào cuối năm nay
• Sẽ được huấn luyện bằng văn bản thông thường, tài liệu/dữ liệu/mã liên quan đến khoa học, là mô hình tạo sinh tập trung thuần túy cho mục đích khoa học
• Được sử dụng cho các ứng dụng khoa học như sinh học hệ thống, nghiên cứu ung thư, khoa học khí hậu, hóa học polyme và vật liệu, vũ trụ học
• Dựa trên Megatron và DeepSpeed

[xguru]

MS và Nvidia công bố MegaTron-NLG 530B, mô hình ngôn ngữ lớn nhất thế giới
DeepSpeed - thư viện tối ưu hóa deep learning do MS công bố