Ra mắt 'Blank.', ứng dụng AI on-device ghi nhớ nội dung đã đọc thành ký ức (sử dụng Gemma 3)
(play.google.com)Xin chào!
Tôi xin giới thiệu ứng dụng Android 'Blank.' được tạo ra từ suy nghĩ "Nếu buộc mình phải làm bài quiz thì có lẽ sẽ nhớ hơn chăng?" khi nhìn lại bản thân thường chỉ lưu các blog kỹ thuật hay newsletter lại, nhưng rồi lại không thực sự đọc lại hoặc học chúng.
Tôi chia sẻ ứng dụng này với hy vọng mọi người có thể thử nhẹ nhàng trong lúc di chuyển về quê dịp lễ này hoặc trong thời gian rảnh.
-
Đây là ứng dụng gì?
Tính năng: khi nhập liên kết của một bài viết web (tin tức, blog, wiki, v.v.), AI sẽ tóm tắt nội dung cốt lõi và tạo ra các câu hỏi điền vào chỗ trống (Cloze Test).-
Ý tưởng: hướng đến thiết kế tối giản để có thể tập trung hoàn toàn vào việc học mà không có các tính năng phức tạp.
-
Cốt lõi: đây là ứng dụng AI on-device 100%, trong đó toàn bộ quá trình diễn ra ngay bên trong smartphone mà không cần giao tiếp với máy chủ.
-
-
Tech stack và cách triển khai
Để có chi phí máy chủ bằng 0 và bảo vệ quyền riêng tư của người dùng, tôi đã chọn LLM on-device.- Model: Google Gemma 3 (2b-it-gpu-int4 quantized)
- Inference: MediaPipe LLM Inference API
- Architecture: Android Jetpack Compose + MVVM + Koin (DI)
- Keyword Extraction: tối ưu hóa thuật toán Regex & TextRank (dùng hybrid với LLM để tăng tốc độ)
-
Những điều tôi trăn trở khi phát triển
- Tốc độ vs độ chính xác: do đặc tính on-device, tốc độ suy luận là điểm mấu chốt. Ban đầu tôi đưa tất cả các câu vào LLM, nhưng nhiều trường hợp tốc độ suy luận không đạt yêu cầu, và do giới hạn số token nên chất lượng phản hồi cũng thường bị giảm. Tôi đã tối ưu bằng cách dùng thuật toán TextRank để lọc trước các câu cốt lõi, rồi giao cho LLM việc tạo câu hỏi điền khuyết.
- Dung lượng: file model có kích thước khoảng 1.5GB. Nó sẽ được tải xuống khi chạy ứng dụng lần đầu, và khuyến nghị dùng Wi‑Fi.
-
Gợi ý cho những ai nên thử
- Những ai muốn thực sự tiêu hóa các bài viết kỹ thuật đã lưu lại
- Những ai tò mò Gemma 3 có thể đạt hiệu năng đến mức nào trên mobile
- Những ai cần một công cụ tóm tắt/học tập cá nhân hóa mà không phải lo rò rỉ dữ liệu
Đây vẫn còn là phiên bản đầu nên còn nhiều thiếu sót. (Đặc biệt, việc parsing trang web có thể chưa hoàn hảo.)
Nếu dùng thử và có phản hồi như "sẽ tốt hơn nếu có tính năng này" hoặc "trang này hoạt động chưa tốt", tôi sẽ cố gắng sửa thật chăm chỉ trong kỳ nghỉ lễ.
Xin cảm ơn. Chúc mọi người có một kỳ nghỉ lễ vui vẻ!
[Liên kết Google Play Store của Blank.]
https://play.google.com/store/apps/details?id=com.shootsir.blank
12 bình luận
Ồ, đây đúng là thứ tôi từng hình dung; nếu kết nối được với Obsidian thì có vẻ sẽ có thể tận dụng theo rất nhiều cách.
Nhưng không hiểu sao ở quốc gia tôi đang sống (Hàn Quốc) lại không tải được...?
Bạn có thể cho biết chính xác thông báo bạn thấy trên Play Store là gì không?
Ngoài ra, nếu cho mình biết luôn mẫu thiết bị thì mình có thể kiểm tra nhanh hơn!
Nó hiển thị là
đây là mục không thể sử dụng tại quốc gia cư trú.
Cảm ơn bạn đã quan tâm! Có vẻ đây là vấn đề trên Play Store, chúng tôi sẽ kiểm tra lại!
Tốc độ tạo quiz nhanh và UI đơn giản nên trải nghiệm sử dụng rất tốt. Tôi sẽ mong chờ các bản cập nhật tiếp theo!
Cảm ơn bạn đã thử nghiệm. Chúng tôi sẽ tiếp tục cập nhật những phần còn thiếu!
Hãy phát hành cho iPhone nữa!
Bản iPhone cũng sẽ được triển khai sau khi hoàn tất ổn định trên Android!
Trên điện thoại đời cũ thì hơi khó.
Có vẻ vì phải chạy suy luận LLM trên thiết bị nên trên các thiết bị đời cũ, hiệu năng không đạt như mong đợi hoặc khó hoạt động ổn định T_T
Tôi thích giao diện đơn giản. Tôi tạo quiz trong NotebookLM để ôn tập, nhưng so ra thì vẫn có một vài điểm hơi đáng tiếc. Tôi đã thêm liên kết về một nhân vật cụ thể trên Namuwiki, nhưng trong 5 trên 7 câu hỏi thì đáp án đều là nhân vật đó. Sẽ rất tốt nếu phần này được cải thiện. Trên Fold 7, nội dung được tạo trong chưa đến 10 giây. Tôi sẽ tiếp tục kỳ vọng vào thời gian tới. Cảm ơn.
Cảm ơn bạn đã phản hồi! Chúng tôi sẽ thử chỉnh sửa trong bản cập nhật tiếp theo!