11 điểm bởi xguru 2023-09-07 | Chưa có bình luận nào. | Chia sẻ qua WhatsApp
  • Mô hình vốn ban đầu được triển khai bằng Python đã được port sang C++ bằng thư viện GGML
  • Có thể sử dụng ở nhiều nơi nhờ mã nguồn được tinh gọn
  • GGML, được đặt theo tên của tác giả gốc Georgi Gerganov, là thư viện tensor hỗ trợ lượng tử hóa đã được dùng để tạo ra llama.cpp/whisper.cpp
    • Tối ưu cho CPU hơn là GPU, đặc biệt là Apple Silicon M1/M2

Chưa có bình luận nào.

Chưa có bình luận nào.