Alpaca.cpp - Chạy mô hình kiểu ChatGPT trên laptop cá nhân

• Đây là bản tinh chỉnh kết hợp LLaMA, Alpaca và llama.cpp, sau đó gắn thêm giao diện chat
• Sử dụng mô hình Alpaca-7b-q4
• Tạo sinh với tốc độ khá nhanh ngay cả trên MacBook Air M2

[readiz]

https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/…

Có lẽ sẽ có người đang tìm model này..

[draupnir]

Dạo này đúng là cứ như có chiến tranh vậy, theo kịp tin tức mệt thật ghê

[pugh123]

Wow~ có vẻ như điểm kỳ dị thực sự đã đến rồi....

[daumkakao]

Khủng thật đấy, ghê thật, và giờ Apple Silicon đã trở thành tiêu chuẩn mặc định cho cấu hình phần cứng luôn rồi, ghê thật.

[ffdd270]

Với tốc độ như vậy thì so với mẫu ChatGPT Turbo cũng không hề kém cạnh. Thật sự quá ấn tượng.

[xguru]

Ôi đúng là mỗi ngày lại có thứ gì đó mới ào ạt đổ ra.

Khoảnh khắc Stable Diffusion đang đến với LLM