ShowHN: Clippy - Giao diện người dùng thập niên 90 cho LLM cục bộ

• Clippy là một ứng dụng cho phép chạy cục bộ nhiều LLM khác nhau thông qua giao diện người dùng của thập niên 1990
• Cung cấp giao diện trò chuyện đơn giản và cổ điển để có thể gửi và nhận tin nhắn với mô hình
• Có thể mở ứng dụng và sử dụng ngay không cần cấu hình phức tạp, đồng thời tự động tìm cách chạy hiệu quả nhất nhờ llama.cpp và node-llama-cpp
• Có thể tải mô hình, prompt và tham số tùy chỉnh để điều chỉnh thiết lập
• Mọi chức năng đều chạy ngoại tuyến và cục bộ, yêu cầu mạng chỉ phát sinh khi kiểm tra cập nhật

---

Giới thiệu về Clippy

• Clippy là một ứng dụng cho phép chạy cục bộ nhiều mô hình ngôn ngữ lớn (LLM) khác nhau thông qua giao diện người dùng của thập niên 1990
• Cung cấp giao diện trò chuyện đơn giản và cổ điển để có thể gửi và nhận tin nhắn với mô hình

Tính dễ sử dụng

• Có thể mở ứng dụng và sử dụng ngay không cần cấu hình phức tạp, đồng thời tự động tìm cách chạy hiệu quả nhất nhờ llama.cpp và node-llama-cpp

Tùy chỉnh và chạy ngoại tuyến

• Có thể tải mô hình, prompt và tham số tùy chỉnh để điều chỉnh thiết lập
• Mọi chức năng đều chạy ngoại tuyến và cục bộ, yêu cầu mạng chỉ phát sinh khi kiểm tra cập nhật

Tùy chọn tải xuống

• Có thể tải về cho macOS (Apple Silicon), macOS (Intel), Windows, Linux (RPM, x64), Linux (Debian, x64)

[GN⁺]

Ý kiến trên Hacker News

• Ý tưởng quá tuyệt. Tôi vẫn hay đùa gọi các tác nhân chat là Clippy thế hệ tiếp theo. Vì tính cách mặc định vui vẻ và lắm lời của chúng quá khó chịu
  • Thật sốc khi Microsoft vẫn chưa làm điều này như một phiên bản UI thay thế cho CoPilot. Cách họ nhồi nó vào OS, ứng dụng, và cả bàn phím laptop của tôi thật quá ngột ngạt. Nếu ít nhất họ thừa nhận và chấp nhận chính những gì mình đang làm (kèm một cái nháy mắt), có lẽ tôi đã bớt ghét nó hơn. Tôi thậm chí đã cân nhắc dán sticker "Clippy is my CoPilot" lên laptop
• Đây là một ví dụ rất rõ của câu "hãy tạo ra thứ mọi người muốn"
  • Nó đã được yêu cầu gần như mỗi ngày trên x.com
• Một sự thật thú vị: Clippy bắt nguồn từ Microsoft Bob, và Melinda Gates là quản lý marketing
  • Tôi thường tự hỏi mối quan hệ của họ đã đóng vai trò gì trong việc giữ Clippy tồn tại. Giờ thì tôi lại tự hỏi liệu Clippy có làm Bill Gates buồn sau vụ ly hôn không
• Tò mò không biết có thể thêm phần lồng tiếng bằng giọng Gilbert Gottfried không
• Chức năng nổi tiếng nhất của Clippy là ngắt lời để đưa ra lời khuyên. Những lời khuyên đó thường rất cơ bản, vô dụng hoặc gây khó chịu. Tuy nhiên, một LLM mạnh mẽ có thể khiến ý tưởng gốc thực sự hoạt động được. Không chỉ là chatbot phản hồi văn bản, mà còn có thể quan sát màn hình và hiểu nó thông qua mô hình thị giác để đưa ra lời khuyên phù hợp. Kiểu như: "Có một cách để làm việc bạn đang làm lúc này dễ hơn". Hiện vẫn chưa có đủ niềm tin để làm việc này bằng API LLM công khai, và cũng chưa có phần cứng để làm nó cục bộ. Nhưng nếu giải quyết được một trong hai vấn đề đó, ClipGPT có thể thực sự hữu ích
• Tôi vẫn luôn tự hỏi khi nào sẽ có người tăng cường Clippy bằng LLM
• Quá ngầu! Tôi đã viết một bài blog ngắn về việc nó hợp với dự án bootc Blue95 lấy cảm hứng từ Windows 95 của tôi đến mức nào
• Làm tốt lắm! Hỗ trợ ollama cũng sẽ rất hữu ích
• Thật đáng kinh ngạc, giờ còn có cả CowPilot nữa
• Ý tưởng thì tuyệt, nhưng tính cách của nó cần thêm chút duyên dáng. Và có lẽ cần cả các tín hiệu ngữ cảnh để khiến nó làm điều hoàn toàn ngược lại với thứ hữu ích nhất vào thời đó
  • Có vẻ như sự kết hợp giữa trình soạn thảo văn bản và Clippy sẽ còn mạnh hơn nữa. Rốt cuộc, đó vốn là ngữ cảnh ban đầu của Clippy