Llama.ttf - Phông chữ có chức năng LLM

• Llama.ttf vừa là một tệp phông chữ, vừa là một mô hình ngôn ngữ lớn (LLM) cùng với bộ máy suy luận của mô hình đó
• Harfbuzz, bộ máy tạo hình chữ được dùng trong Firefox/Chrome, cho phép “tạo hình” văn bản bằng mã tùy ý thông qua Wasm shaper
  • Phần mã “tùy ý” này có thể chính là toàn bộ bộ máy suy luận LLM, bao gồm các tham số đã huấn luyện, để khởi tạo LLM và dùng cho việc sinh văn bản
  • Ở đây sử dụng LLM tên là Llama nên có tên là llama.ttf
• Nói cách khác, trong các ứng dụng dựa trên Harfbuzz có bật Wasm, bạn có thể dùng phông chữ này để chạy LLM và sinh văn bản
  • Không cần chờ nhà cung cấp triển khai các tính năng kiểu như “Copilot”, vì mọi thứ đều chạy cục bộ
  • Bạn thậm chí có thể trò chuyện với chính phông chữ này
• Cách sử dụng:
  • Tải tệp llama.ttf rồi dùng như các phông chữ khác
  • Build Harfbuzz với Dwasm=enabled, build wasm-micro-runtime, sau đó thêm thư viện dùng chung tạo ra vào biến môi trường LD_PRELOAD, rồi chạy các ứng dụng dựa trên Harfbuzz như gedit hoặc GIMP
• Bài viết cũng giới thiệu một số thử nghiệm thú vị khác dùng phông chữ và LLM
  • Ngôn ngữ định dạng văn bản LLM lấy cảm hứng từ tài liệu speedrun Super Metroid của tom7
  • Bài thuyết trình Phông chữ có thể lập trình bằng Harfbuzz-Wasm của Erk
  • Fontemon - một trò chơi phong cách Pokémon hoàn chỉnh và có thể chơi được, được nhúng bên trong phông chữ

Ý kiến của GN⁺

• llama.ttf là một cách tiếp cận đột phá cho phép chạy LLM thông qua tệp phông chữ.
• Vì chạy cục bộ nên có lợi về quyền riêng tư và hiệu năng.
• Do cần hiểu về Harfbuzz và Wasm, nên có thể hơi khó với các kỹ sư mới bắt đầu.

[qyurila]

Phần nội dung: dưới tiêu đề phụ Why? lại không viết gì cả 🤣

[GN⁺]

Ý kiến trên Hacker News

• Có ý kiến cho rằng sẽ rất hay nếu có một chương trình TV hàng tuần cung cấp những nội dung kỳ lạ và thú vị.
• Giới thiệu một dự án cho phép đưa LLM và bộ máy suy luận vào phông chữ để có thể trò chuyện hoặc viết, tương tự như việc từng tạo Tetris bằng phông chữ.
• Dự án này rất ấn tượng, nhưng có ý kiến chỉ ra kích thước tệp TTF lên tới 280GB và vấn đề tương thích với các phông chữ khác.
• Chia sẻ liên kết đến một trang web có nhúng trò chơi trong phông chữ.
• Giải thích rằng engine Harfbuzz cung cấp khả năng "định hình" văn bản bằng cách sử dụng Wasm shaper.
• Thông báo rằng công việc đã được lưu vào kho lưu trữ và gửi lời cảm ơn.
• Có ý kiến hy vọng có thể dễ dàng chạy demo bằng cách build Harfbuzz và wasm-micro-runtime rồi thêm vào biến môi trường LD_PRELOAD.
• Bày tỏ sự kinh ngạc vì chưa từng tưởng tượng ra một tương lai nơi PDF có thể trò chuyện.
• Có ý kiến cho rằng đây là thứ tuyệt nhất họ thấy trong tuần này.
• Đặt câu hỏi vì sao phông chữ luôn tạo ra cùng một chuỗi ký tự và liệu LLM có nên tạo ra "suy luận" mới hay không.
• Có ý kiến thắc mắc liệu phông chữ có thể tự động tạo kiểu văn bản hay không.