- Ai đang dùng iPhone thì rất nên thử. Đây là ứng dụng đã được Google phát hành, được tối ưu để có thể chạy gemma4 trực tiếp trên thiết bị.
- Nói đơn giản thì ngay cả ở chế độ máy bay vẫn có thể dùng LLM. (hỗ trợ đầu vào đa phương thức)
- Mức độ tối ưu hóa cực kỳ tốt, đến mức với dung lượng chỉ trong khoảng 3~4GB mà có thể làm LLM mượt như vậy, khiến người ta cảm thấy kỷ nguyên on-device thực ra đã đến rồi.
- Còn về hiệu năng thì khỏi phải bàn. Theo benchmark thì nó ở mức khoảng Gemini 3, và cảm nhận khi dùng thực tế cũng đúng như vậy. Không phải nói quá.
4 bình luận
Hay thì hay thật, nhưng iPad của tôi không chịu nổi đâu haha
Tôi đã thử rồi, nhưng vì vẫn còn ở mức nguyên mẫu nên chưa đến mức phải khuyên mọi người nhất định nên dùng; chắc khoảng một tháng nữa dùng sẽ ổn hơn.
Google AI Edge Gallery - ứng dụng thư viện LLM hoàn toàn ngoại tuyến mã nguồn mở
Trên Google Play cũng có nhé
https://play.google.com/store/apps/…
Trang công bố mô hình trên huggingface cũng có cả benchmark riêng nữa...
https://huggingface.co/litert-community/gemma-4-E4B-it-litert-lm