Secret Llama - Triển khai chatbot Llama 3 chạy trong trình duyệt bằng WebGPU

• Chatbot LLM đảm bảo quyền riêng tư, hoạt động hoàn toàn trong trình duyệt
• Hỗ trợ các mô hình mã nguồn mở như Llama 3, Mistral
• Dữ liệu hội thoại tuyệt đối không rời khỏi máy tính, đảm bảo quyền riêng tư hoàn toàn
• Vì chạy trong trình duyệt nên không cần máy chủ hay cài đặt, và vẫn hoạt động ngoại tuyến
• Cung cấp giao diện dễ sử dụng tương đương ChatGPT, nhưng dành cho LLM mã nguồn mở
• Các mô hình hiện được hỗ trợ
  • TinyLlama-1.1B-Chat-v0.4-q4f32_1-1k 600MB
  • Llama-3-8B-Instruct-q4f16_1 4.3GB
  • Phi1.5-q4f16_1-1k 1.2GB
  • Mistral-7B-Instruct-v0.2-q4f16_1 4GB

[bizring]

Có hỗ trợ hội thoại bằng tiếng Hàn không?