[Mã nguồn mở] Client LLM đa năng hỗ trợ iOS và macOS - LLM Bridge
(github.com/bipark)Trước đây tôi đã tạo riêng client LLM chuyên cho Ollama trên iOS và macOS rồi phát hành mã nguồn mở, nhưng lần này tôi làm lại mới dựa trên Swift/SwiftUI, hợp nhất mã cho iOS và macOS và bổ sung API hỗ trợ.
- Hỗ trợ Ollama, LMStudio làm LLM cục bộ.
- Nếu mở port ra ngoài trên máy tính đã cài LLM trong Ollama, bạn có thể dùng LLM miễn phí từ xa.
- LMStudio là chương trình quản lý LLM cục bộ có UI riêng, cho phép tìm kiếm và cài đặt mô hình từ HuggingFace nên có thể thử nghiệm nhiều mô hình khác nhau.
- Trong LLM Bridge, bạn có thể thiết lập IP, port và sử dụng các mô hình đã cài để nhận phản hồi cho truy vấn.
- Hỗ trợ OpenAI
- Có thể cấp API key, nhập vào ứng dụng và sử dụng ChatGPT thông qua lời gọi API.
- Dùng API có thể rẻ hơn so với trả phí thuê bao hằng tháng.
- Hỗ trợ Claude
- Sử dụng API Key
- Có thể gửi hình ảnh với các mô hình hỗ trợ ảnh
- Hỗ trợ tệp PDF, TXT
- Trích xuất văn bản bằng PDFKit rồi gửi đi
- Hỗ trợ tệp văn bản
- Mã nguồn mở
- Swift/SwiftUI
- Liên kết mã nguồn
Chưa có bình luận nào.