Dalai - Cách đơn giản nhất để chạy LLaMA trên máy tính của bạn

• Có thể chạy cục bộ mô hình LLaMA 7B chỉ với 2 dòng lệnh
  npx dalai llama
npx dalai serve
• llama.cpp + CDN llama-dl
• Tích hợp sẵn ứng dụng web có thể tùy biến/hackable (bao gồm JavaScript API và Socket.io API)
  • Truy cập qua localhost:3000

[ragingwind]

Cứ một cái xuất hiện là lại kéo theo đủ thứ khác liên tiếp tuôn ra như dây khoai lang.

[xguru]

Dalai Lama thật sao... gu đặt tên này thì...
llama.cpp - Suy luận mô hình LLaMA của Facebook bằng C/C++ thuần túy