YaLM 100B - mô hình ngôn ngữ kiểu GPT với 100 tỷ tham số
(github.com/yandex)- Được Yandex công bố để bất kỳ nhà phát triển/nghiên cứu nào cũng có thể sử dụng miễn phí
- Được huấn luyện trên 1.7TB văn bản tiếng Anh và tiếng Nga bằng 800 GPU A100 trong 65 ngày
- Dựa trên mã Megatron-LM của Microsoft
Chưa có bình luận nào.