PaLM - Pathways Language Model 540B tham số do Google AI công bố

• Mô hình có 540B tham số, lớn gấp 3 lần so với GPT-3 (175B)
• Được huấn luyện bằng TPU v4
• Khi mô hình lớn hơn, nó có thể xử lý đa dạng tác vụ hơn (bài toán, giải thích, sinh mã, v.v.)

Bài viết liên quan

• Đã thử hỏi GPT-NeoX-20B các phép tính số học cơ bản

[kunggom]

Có vẻ Google đang cố kết hợp những thứ như thế này với robot để AI cũng có thể học về thế giới vật lý ngoài đời thực.
https://say-can.github.io/
https://arxiv.org/abs/2204.01691

[xguru]

• Mô hình AI NLP siêu lớn đang đi về đâu?
• GPT-3 giờ đây không còn là duy nhất trên thị trường
• Báo cáo AI Index 2022

[laeyoung]

Có vẻ như xu hướng “mô hình AI càng lớn càng tốt” vẫn đang tiếp tục.