MS và Nvidia công bố MT-NLG 530B, mô hình ngôn ngữ lớn nhất thế giới

<p>- Megatron-Turing Natural Language Generation<br /> - 530 tỷ tham số, lớn hơn 175 tỷ của GPT-3<br /> - Cho thấy độ chính xác vượt trội, không thể so sánh với trước đây <br /> - như hoàn thành câu, khả năng hiểu, suy luận thường thức, suy luận ngôn ngữ tự nhiên, v.v.<br /> - 105 lớp, dựa trên Transformer <br /> - NVIDIA A100 Tensor Core GPU &amp; mạng HDR InifiniBand <br /> - Cụm siêu máy tính NVIDIA Selene và Microsoft Azure NDv4</p>