Lịch sử ngắn gọn của các mô hình LLaMA

• LLaMA, ra mắt vào tháng 2 năm 2023, đã có nhiều mô hình fine-tuning khác nhau được phát hành
• Xem xét và so sánh từng mô hình
  • LLaMA : (7B, 13B, 33B, 65B), CommonCrawl/C4/GitHub/Wikipedia/Gutenberg & Book3/ArXiv/StackExchange
  • Alpaca : 52k chỉ thị GPT-3
  • Vicuna : 70k hội thoại ChatGPT
  • Koala : 117k hội thoại ChatGPT đã được làm sạch
  • GPT4-x-Alpaca : 20k chỉ thị GPT4
  • WizardLM : 70k chỉ thị được tổng hợp bằng ChatGPT/GPT-3
  • OpenAssistant : 600k tương tác của con người (OpenAssistant Conversations)
• Các phần mềm để chạy mô hình LLaMA trên máy cục bộ