ShowHN: Clippy - Giao diện thập niên 90 cho LLM cục bộ

 (felixrieseberg.github.io)
2 điểm bởi GN⁺ 2025-05-07 | 1 bình luận | Chia sẻ qua WhatsApp
  • Clippy là ứng dụng desktop để chạy LLM cục bộ trên máy tính cá nhân và trò chuyện qua giao diện giống Microsoft Clippy của thập niên 1990
  • Sử dụng llama.cpp và node-llama-cpp để tự động tìm phương thức chạy khả dụng như Metal, CUDA, Vulkan
  • Luồng cơ bản là chat đơn giản, nhưng có thể nạp và tinh chỉnh mô hình tùy chỉnh đã tự tải về, prompt và tham số
  • Toàn bộ xử lý diễn ra trên máy tính của người dùng; yêu cầu mạng chỉ dùng để kiểm tra cập nhật và tính năng này cũng có thể tắt
  • Không có quan hệ hợp tác, phê duyệt hay hỗ trợ từ Microsoft; đây giống một thử nghiệm pha trộn nỗi hoài niệm thập niên 1990 và AI cục bộ năm 2025 hơn là chatbot tốt nhất

Gặp LLM cục bộ qua Clippy của thập niên 1990

  • Clippy là ứng dụng desktop chạy nhiều LLM trên máy tính cục bộ
  • UI được xây dựng như một lời tri ân dành cho Microsoft Clippy và phong cách thiết kế thị giác kiểu Windows 98
  • Luồng sử dụng cơ bản rất đơn giản
    • Gửi tin nhắn cho mô hình
    • Nhận phản hồi từ mô hình
  • Ứng dụng nhấn mạnh cấu hình cho phép mở app và chat ngay sau khi cài đặt, không cần thiết lập phức tạp

Cách chạy và cấu hình mô hình

  • Sử dụng llama.cpp và node-llama-cpp để tự động dò tìm cách chạy mô hình
    • Ví dụ được nêu gồm Metal, CUDA, Vulkan
  • Có thể nạp mô hình do bạn tự tải về
  • Có thể điều chỉnh prompt và tham số để thay đổi hành vi của mô hình
  • Mọi quá trình chạy đều được xử lý bên trong máy tính của người dùng
    • Yêu cầu mạng chỉ là kiểm tra cập nhật
    • Có thể tắt kiểm tra cập nhật

Tính chất dự án và phân phối

  • Mục tiêu không phải là tạo chatbot tốt nhất, mà là pha trộn nỗi hoài niệm công nghệ thập niên 1990 với công nghệ có thể chạy trên máy tính cá nhân vào năm 2025
  • Đây là ứng dụng không có quan hệ hợp tác, phê duyệt hay hỗ trợ từ Microsoft
  • Có thể xem mã nguồn trên GitHub
  • Bản tải xuống được cung cấp ở v0.4.3

Bài viết liên quan

1 bình luận

 
GN⁺ 2025-05-07
Ý kiến trên Hacker News

  • Ý tưởng hay. Tính cách mặc định vô dụng mà lại quá nhí nhảnh, nói nhiều của các tác nhân chat khiến tôi bực đến mức vẫn gọi đùa chúng là Clippy thế hệ tiếp theo
    Khá ngạc nhiên là Microsoft vẫn chưa làm sẵn thứ này như một phiên bản thay thế cho UI CoPilot. Cách họ cố nhét nó vào OS, ứng dụng, thậm chí cả bàn phím laptop quá intrusive; nếu họ thừa nhận việc mình đang làm và đón nhận nó một cách tỉnh bơ thì có lẽ đã đỡ bị ghét hơn. Có khi tôi còn dán một miếng sticker “Clippy is my CoPilot” lên laptop nữa

    • Đúng thật. Tôi có cảm giác trong số những người ở Microsoft có quyền phê duyệt thứ như thế này, chẳng có ai có khiếu hài hước hay nhạy bén kinh doanh
      Hiệu ứng hoài niệm hẳn sẽ rất lớn; giờ tôi dùng Linux, nhưng nếu hỗ trợ Fedora thì có lẽ tôi đã cài Clippy
    • Hình như họ thực sự đã làm rồi. Tôi nhớ từng thấy trong buổi công bố có thể chọn Clippy làm avatar
      Sửa: tìm thấy rồi
      https://windowsreport.com/with-copilot-avatar-microsoft-will...
    • Một tập đoàn lớn như Microsoft có quá nhiều quan liêu và bộ phận chuyển động, nên tôi nghĩ ngay cả việc đơn giản như một yêu cầu tái sử dụng thành phần UI kiểu Clippy cũng sẽ bị kẹt mãi giữa các bánh răng
    • Có khá nhiều cơ hội bị bỏ lỡ. Ví dụ AskJeeves đến giờ vẫn chỉ là một công cụ tìm kiếm bình thường, về cơ bản là frontend cho Google
    • Tôi tin chắc rằng nếu Copilot hiện nay được tung ra dưới tên Cortana thì phản ứng phản đối đã gần như không có

  • Một tính năng ít được dùng của Clippy là Clippy và các Microsoft Agent khác, như chú chó tìm kiếm của Windows XP, cung cấp API để lập trình viên tạo công cụ trợ lý của riêng mình
    https://en.wikipedia.org/wiki/Microsoft_Agent
    Nhờ vẻ đẹp kinh khủng của ActiveX, cũng có thể tải các Agent này vào trang web. API được hỗ trợ đến Windows 7, khi đó là thành phần tùy chọn; nhưng sẽ thật tuyệt nếu ai đó đào lại Agent SDK cũ và nối ChatGPT vào Clippy thật

    • Agent SDK cũ nằm ở đây
      https://archive.org/details/microsoftagentsoftwaredevelopmen...
      Tuy nhiên nhân vật Clippy thật không được kèm trong Agent SDK, khác với các lựa chọn khác của Office như Wizard, nên bạn phải lấy nó từ một bản Office thật hoặc tải bản đã được trích xuất
      https://archive.org/details/clippitMS
      Không hiểu sao tôi hoàn toàn không nghĩ ra rằng chú chó tìm kiếm của Windows XP cũng là một nhân vật Agent
    • Mò thử LLM Clippy khoảng 30 phút thì tôi thật sự muốn nó hỗ trợ dùng công cụ
      Nếu gắn thêm system prompt phù hợp, có lẽ nó có thể khá gần với vigor trong User Friendly
      http://www.userfriendly.org/cartoons/archives/00jan/20000104...
      Tất nhiên cũng cần pico-chu cho người mới bắt đầu
    • Tiềm năng lớn. Sẽ hay nếu ban đầu nó có thái độ bình thường rồi dần dần trở nên hung hăng và thù địch với người dùng
    • Ý tưởng hay. Nhân tiện, ai đó kết nối nó với https://en.wikipedia.org/wiki/Windows_MultiPoint_Mouse để tăng thêm độ điên rồ thì tốt
    • Hồi trước tôi từng dùng một trong các Agent này thật trong một ứng dụng VB như trò đùa. Tôi dùng nhân vật robot; nếu bạn nhập sai gì đó vào ô văn bản, nó sẽ vẫy tay và gọi người dùng là đồ ngốc
      Đó là một thời vui vẻ

  • Đây rõ ràng là một ví dụ của “hãy làm thứ mọi người muốn”
    Thực tế nó gần như ngày nào cũng được yêu cầu trên x.com
    https://x.com/search?q=ai%20bring%20clippy%20back&src=typed_...

    • Thật ra đây là một cách hay để tìm ý tưởng sản phẩm. Tôi hỏi Grok kiểu như tìm các bài đăng về những thứ mọi người muốn, nó thực hiện nhiều tìm kiếm trên X, bao gồm cả tìm kiếm embedding, rồi gợi ý rằng người ta muốn những thứ như Tamagotchi, ICQ quay lại

  • Sự thật thú vị: Clippy xuất thân từ Microsoft Bob, và Melinda Gates khi đó là marketing manager của sản phẩm đó
    Tôi thường tự hỏi liệu mối quan hệ của hai người có đóng vai trò gì trong việc giữ Clippy tồn tại hay không. Giờ thì tôi cũng tự hỏi liệu sau vụ ly hôn, Clippy có làm Bill Gates buồn không

    • Tôi không nghĩ Bill Gates nghĩ nhiều đến Clippy đến vậy

  • Có thể thêm lời dẫn chuyện bằng giọng Gilbert Gottfried không?
    https://www.youtube.com/watch?v=tu_Pzuwy-JY

  • Nếu tôi nhớ không nhầm, tính năng nổi tiếng nhất của Clippy là chen vào khi bạn đang làm việc để đưa ra lời khuyên. Những lời khuyên đó thường rất cơ bản, vô dụng và gây khó chịu nên bị mang tiếng xấu, nhưng với một mô hình ngôn ngữ lớn mạnh mẽ thì có thể khiến ý tưởng ban đầu thật sự hoạt động được.
    Không chỉ là một chatbot trả lời văn bản, mà là dạng quan sát màn hình, hiểu bằng mô hình thị giác rồi đưa ra lời khuyên phù hợp như “việc bạn đang làm hiện có cách dễ hơn”. Hiện vẫn chưa đủ tin cậy để dùng API LLM công khai theo cách đó, và phần cứng để chạy cục bộ cũng còn thiếu, nhưng nếu giải quyết được một trong hai vấn đề thì ClipGPT có vẻ sẽ thật sự hữu ích.

    • Vào cuối thập niên 1980 và đầu thập niên 1990, nhiều phần mềm có tài liệu trợ giúp với tìm kiếm toàn văn, nhưng tỷ lệ nhận được câu trả lời hữu ích chưa đến 10%, nên trên thực tế nó không hoạt động đúng nghĩa.
      Trước khi Google xuất hiện, người dùng đã được “huấn luyện” để tránh các chức năng tìm kiếm toàn văn. Tính năng toàn văn gắn với Clippy cho ra câu trả lời hữu ích khoảng 50%, và tôi cho rằng điểm cốt lõi là họ đã biến nó thành một nhân vật hoạt hình dễ mến để vượt qua định kiến của người dùng giữa thập niên 1990 đối với tìm kiếm toàn văn trong phần trợ giúp.
    • Có vẻ bạn đang viết thư.
      Bạn có cần trợ giúp không?
      Nhận trợ giúp viết thư
      Tự nhập thư mà không cần trợ giúp
      |_| Không hiển thị lại mẹo này
    • Nhờ các LLM đa phương thức mới nhất, chúng ta đang tiến gần hơn theo hướng đó, nhưng để hiểu người dùng đang định làm gì và ước lượng ý định của họ, có lẽ cần chụp ảnh màn hình theo chu kỳ rồi đưa trực tiếp vào LLM để cung cấp ngữ cảnh theo trình tự thời gian.
      Tuy vậy, tôi không biết có bao nhiêu người sẽ thoải mái chấp nhận việc ảnh chụp màn hình máy tính ngẫu nhiên được gửi tới một LLM không chạy cục bộ.
    • Nếu muốn làm nó buồn cười hơn, chỉ cần khiến nó xấu tính và khó chịu một cách không cần thiết.
      “Khoan đã, bạn thật sự đang tìm cái này à? Cái này mà cũng không biết làm sao? Đùa tôi chắc?”
      “Trời ơi, đã một tiếng rồi mà bạn vẫn chưa sửa được lỗi này à? Ngốc à? Bạn không xứng đáng có công việc này đâu.”
    • “Đến giờ làm việc rồi, Dave”

  • Làm tốt đấy. Nếu có hỗ trợ ollama thì có vẻ sẽ hữu ích.
    https://github.com/ollama/ollama

    • Tôi cũng nghĩ ngay đến điều đó. Tôi đã cấu hình ollama để chạy tác vụ LLM cục bộ rồi nên không muốn làm trùng, nhưng frontend này thì muốn thử cho vui.

  • Tôi thật sự nhớ kiểu thiết kế UI này. Làm tốt đấy.

    • Vậy thì hãy đóng góp cho SerenityOS.

  • Thật bất ngờ là giờ cũng có CowPilot https://github.com/agentsea/cowpilot

  • Wow, mức độ dễ dùng rất tốt. Tôi vẫn chưa tìm ra cách di chuyển Clippy sang vị trí khác thay vì giữa màn hình, nhưng nó hoạt động tốt.
    Tôi đã tải xuống vài mô hình và đang trò chuyện rồi.

    • Có thể di chuyển bằng cách nhấp và kéo góc dưới bên phải của Clippy.