Replit Code - LLM sinh mã nguồn mở được huấn luyện chỉ trong 10 ngày

 (huggingface.co)
19 điểm bởi kuroneko 2023-05-04 | 2 bình luận | Chia sẻ qua WhatsApp
  • Replit công bố một LLM sinh mã mới dưới dạng mã nguồn mở, có thể dùng cho mục đích thương mại.
  • Với 2.7B tham số, mô hình nhẹ và nhanh, đồng thời hoàn tất huấn luyện chỉ trong 10 ngày.
  • Hiệu năng cải thiện 40% so với các mô hình cùng phân khúc; phiên bản được fine-tune còn cho kết quả tốt hơn Codex.
  • Được huấn luyện trên bộ dữ liệu The Stack và có thể sinh mã cho hơn 20 ngôn ngữ.
  • Có thể dùng thử demo ngay trên Hugging Face.

Bài viết liên quan

2 bình luận

 
kuroneko 2023-05-04

Dạo này có cảm giác số lượng LLM mã nguồn mở có thể dùng cho mục đích thương mại đang tăng lên rất nhiều. Không biết có phải được LLaMA kích thích hay không...

Và tôi cũng thích việc hiệu năng đã được cải thiện đáng kể so với kích thước mô hình.
Đến mức này thì có lẽ đã đủ để chạy cục bộ trên một máy tính phát triển thông thường (không có GPU) rồi nhỉ.