Giới thiệu Grafychat
- Grafychat là một notebook trực quan dạng canvas thân thiện với quyền riêng tư dành cho ChatGPT và các AI hội thoại khác
- Hoạt động với OpenAI, Google AI và các mô hình Ollama cục bộ
- Có thể mang API key của riêng bạn vào và bắt đầu trò chuyện
Các tính năng chính của Grafychat
Canvas vô hạn
- Có thể sắp xếp các cuộc trò chuyện theo cách trực quan
- Có thể nối các điểm để quản lý hội thoại
- Có thể tạo bao nhiêu canvas tùy ý
Thân thiện với quyền riêng tư
- Mọi thứ đều được lưu trên thiết bị của người dùng
- Dữ liệu chỉ rời khỏi thiết bị khi gửi yêu cầu tới các LLM không chạy cục bộ
- Không cần đăng ký hay tài khoản
Kiểm soát kết quả
- Có thể dễ dàng áp dụng các chỉ dẫn tùy chỉnh
- Có thể chuyển đổi mô hình theo thời gian thực
- Có thể điều chỉnh các tham số mô hình
Tìm kiếm mạnh mẽ
- Có thể tìm kiếm toàn văn trên toàn bộ dữ liệu
- Có thể lọc với độ chính xác cao
- Có thể dễ dàng điều hướng qua kết quả
Hỗ trợ OpenAI hàng đầu
- Hỗ trợ mọi mô hình ChatGPT như GPT-4
- Hỗ trợ nhập liệu bằng giọng nói/chính tả
- Hỗ trợ tạo giọng nói/thuyết minh
- Hỗ trợ tạo hình ảnh
- Không cần gói đăng ký ChatGPT đang hoạt động
- Có thể dùng OpenAI API key của riêng bạn
Mô hình cục bộ miễn phí để sử dụng
- Hỗ trợ Ollama (Mac, Windows, Linux)
- Danh mục mô hình mã nguồn mở ngày càng mở rộng
- Bao gồm cả Llama 3 mạnh mẽ
- Có thể sử dụng hoàn toàn miễn phí
- Chỉ cần chạy và thiết lập ứng dụng Ollama trên thiết bị
Thư viện prompt có thể tùy chỉnh
- Có thể dùng trên toàn bộ ứng dụng
- Có thể dễ dàng lưu, chỉnh sửa và tái sử dụng prompt
Mỗi cuộc trò chuyện là một trình soạn thảo Markdown
- Có thể chỉnh sửa mọi cuộc trò chuyện
- Giữ dữ liệu gọn gàng
- Có thể xuất sang Markdown bằng Inspector
Chế độ xem chat cổ điển với Inspector
- Có thể bắt đầu hoặc tiếp tục chat trong Inspector
- Có thể chọn và kiểm tra cuộc hội thoại hiện tại
- Có thể xuất sang Markdown
Giao diện có thể tùy chỉnh
- Có thể thêm màu cho Flow
- Có thể hiện/ẩn các phần cụ thể
- Có thể gắn nhãn cho các phần của cuộc hội thoại
Hỗ trợ nhiều nhà cung cấp AI
- OpenAI
- Google AI
- Ollama thông qua LLama 3
- Và danh sách này vẫn đang tiếp tục tăng
BYOAK - Tự mang API key của bạn
- Nhập/xuất dữ liệu bằng file JSON
- Phím tắt bàn phím
- Hỗ trợ tô sáng mã
- Ghim chat, gắn thẻ màu
- Hình nền tùy chỉnh
- Chế độ tối
- v.v.
Thông tin giá và giấy phép
- Có thể sở hữu giấy phép chỉ với một lần mua
- Mỗi giấy phép bao gồm 5 lần kích hoạt và không có ngày hết hạn
- Standard ($39): gỡ bỏ mọi giới hạn, mở khóa mọi tính năng
- Extended ($59): toàn bộ tính năng của Standard + gói tự host, ứng dụng desktop sẽ ra mắt sau
- Premium ($79): toàn bộ tính năng của Extended + hỗ trợ cao cấp, ứng dụng desktop sẽ ra mắt sau
Tóm tắt FAQ
- Grafychat là một notebook trực quan dạng canvas thân thiện với quyền riêng tư dành cho ChatGPT và các AI hội thoại khác
- Đây không phải là ứng dụng dựa trên thuê bao; bạn có thể sở hữu giấy phép chỉ với một lần mua
- 5 lần kích hoạt nghĩa là có thể dùng khóa giấy phép trên 5 thiết bị khác nhau
- Hỗ trợ nhiều nhà cung cấp chatbot như OpenAI, Google AI, các mô hình Ollama cục bộ, v.v.
- Không cần đăng ký hay thuê bao OpenAI
- Ứng dụng desktop vẫn chưa ra mắt nhưng đang được phát triển
- Grafychat.com không lưu trữ dữ liệu người dùng
- Cần liên hệ riêng về chính sách hoàn tiền
Ý kiến của GN⁺
- Grafychat có vẻ là một công cụ cho phép quản lý trực quan nhiều mô hình AI hội thoại như ChatGPT hay GPT-4. Đặc biệt, khả năng sắp xếp và liên kết nội dung hội thoại dưới dạng canvas có vẻ hữu ích cho việc tổ chức cuộc trò chuyện một cách có hệ thống.
- Việc lưu dữ liệu người dùng trên thiết bị và cho phép tự nhập API key cũng là một ưu điểm về quyền riêng tư. Tuy vậy, cần lưu ý rằng dữ liệu sẽ được gửi ra ngoài khi thực hiện các yêu cầu tới LLM không chạy cục bộ.
- Việc hỗ trợ cả Ollama là mô hình mã nguồn mở để có thể dùng miễn phí, cùng với tính năng thư viện prompt giúp lưu và tái sử dụng các prompt thường dùng, cho thấy có nhiều tính năng nâng cao trải nghiệm sử dụng.
- Mặt khác, vì là mô hình giấy phép thay vì thuê bao nên mức giá có thể vẫn là gánh nặng. Ngay cả gói Standard cũng ở mức $39, không phải số tiền nhỏ. Dù có nhiều tính năng và chú trọng đến quyền riêng tư, nhưng xét đến việc có thể dùng miễn phí các mô hình mã nguồn mở thì tính cạnh tranh về giá vẫn còn là dấu hỏi.
- Việc chưa có ứng dụng desktop và hiện chỉ cung cấp dưới dạng web, cùng với thực tế đây là một dịch vụ mới nên độ ổn định hay khả năng duy trì lâu dài trong tương lai vẫn là những điểm cần cân nhắc khi triển khai.
1 bình luận
Các ý kiến trên Hacker News
Chỉ vì một dòng CSS trên trang mà laptop của tôi bị giật lag nghiêm trọng
Nguyên nhân là
backdrop-filter: blur(0.1875rem)dùng cho modal, chẳng hạn như popup video YouTubeNgay cả trên laptop hiệu năng cao, mức tiêu thụ điện cũng quá lớn và quạt bắt đầu quay mạnh
Không biết là không có cách dùng GPU, hay đây là một vấn đề hoàn toàn khác
Trước đây tôi từng nghĩ đến một giao diện tương tự, không có tính năng kéo thả mà chỉ có trực quan hóa dạng cây
Thường thì trong cùng một cuộc trò chuyện ta xử lý các chủ đề nhánh, nhưng về sau lại sửa tin nhắn trước đó nơi nhánh bắt đầu để AI không bị nhầm
Nhưng OpenAI bỏ cây nhánh đó đi, nên sẽ hay hơn nếu hiển thị cây các chủ đề nhánh đã khám phá mà không cần phải sắp xếp thủ công
Cách tiếp cận thú vị. Có vẻ nó xử lý quy trình làm việc trung gian điển hình
Dù kết quả cuối cùng có thể được ưa chuộng ở dạng tuyến tính, công việc thực tế thường diễn ra bằng cách hoàn thiện cấu trúc phân cấp trước
Tôi đã dùng Gingko https://gingkowriter.com/ nhiều năm rồi; nó cho phép mở rộng các cấp gần như vô hạn nhưng vẫn dễ gập lại thành cấu trúc tuyến tính, giúp giảm gánh nặng khi sắp xếp cấu trúc vấn đề
Trong trường hợp này, tôi tò mò liệu nó có duy trì N ngữ cảnh tương ứng với số lá của cây không, các cuộc chat có tách biệt nhau không, và làm thế nào để chuyển từ một canvas phi cấu trúc vô tận sang sản phẩm cuối được sắp xếp gọn gàng
Ngữ cảnh rốt cuộc cũng là một dạng cách nhóm, nên việc có duy trì ngữ cảnh theo số lá hay không còn tùy tình huống
Phần chuyển từ canvas phi cấu trúc sang sản phẩm có tổ chức thì tôi xem như RAG kết hợp với lệnh trong ứng dụng, và đang làm một giải pháp RAG cục bộ
Vẫn còn ở giai đoạn đầu nhưng đầy hứa hẹn; về cơ bản là trò chuyện với toàn bộ dữ liệu và áp dụng nhiều lệnh khác nhau lên trên đó
Với tư cách là người dùng tiềm năng và từng nghĩ đến việc tự làm một công cụ tương tự, cây, hay chính xác hơn là đồ thị có hướng, bản thân nó đã là kết quả cuối cùng tôi muốn
Tìm lại thì có vẻ là phiên bản ứng dụng desktop cũ của Gingko, và vẫn có thể tải ở https://github.com/gingko/client/releases
Dùng Obsidian và plugin như https://github.com/AndreBaltazar8/obsidian-canvas-conversati... thì có thể tự tạo thứ như vậy khá dễ
sftpXem demo thì thấy thú vị, nhưng tôi nghĩ mình sẽ nhanh chóng mệt vì phải kéo thả các nút và tìm nút mình quan tâm
Tôi tò mò không biết có tính năng tìm kiếm không
Sẽ còn thú vị hơn nếu AI tạo chế độ xem đồ thị theo kiểu agent, hoặc ít nhất là đề xuất/làm nổi bật các câu hỏi tiếp theo và tự động sắp xếp chúng trong đồ thị
/Có lẽ vì tôi là kiểu người suy nghĩ bằng hình ảnh
Phản hồi duy nhất của tôi là, tôi nghi ngờ sản phẩm AI mã nguồn đóng nên có lẽ sẽ không mua
Dù vậy, tôi biết ơn và thấy vui vì đã tránh xu hướng mô hình thuê bao
Nếu mở mã nguồn để tôi biết chắc không có telemetry nào được gửi đi, rồi thu phí hỗ trợ, thì tôi có thể trả tiền
Tuy nhiên có thể tôi là trường hợp khác thường, nên cứ cân nhắc phù hợp
Ý tưởng rất hay, và nếu tập trung thì có lẽ có thể làm được một MVP trong một hoặc hai ngày cuối tuần
Tất nhiên các tính năng hào nhoáng mà cá nhân tôi không quan tâm có thể mất nhiều thời gian triển khai hơn
https://www.grafychat.com/d/docs/selfhost
Dù vậy có lẽ cần điều kiện là mã không bị làm rối
Sẽ tốt nếu OpenAI hoặc UI của Anthropic cũng cung cấp tính năng như thế này
Thật ra chỉ cần đơn giản có “create a new chat from here” là được
Sản phẩm thì đẹp và được làm tốt, nhưng giá là rào cản với cá nhân tôi
Ví dụ tôi thích tính năng “Fork from this message” của MindMac
UI hiện tại cũng lưu toàn bộ các bản chỉnh sửa trước đó dưới dạng cây revision
Landing page tốt và giải thích sản phẩm đủ rõ
Trước đây tôi từng muốn một thứ tương tự, nên tôi cũng thích concept này
Trong demo được chia sẻ, có vẻ họ tạo chat con từ chat cha ban đầu
Tôi tò mò liệu họ đã thử cách nối/gộp hai chat con để tạo chat con tiếp theo, hoặc tạo tiếp chat con từ một chat con trước đó chưa
Kiểu như pipeline LLM hoặc trình chỉnh sửa prompt
Tôi từng làm một tính năng bổ trợ có thể tích hợp vào một số frontend: một kho khóa-giá trị tìm-thay thế giúp tránh rò rỉ thông tin nhạy cảm
Nếu có thể thay IP, domain, subdomain nội bộ bằng domain giả như
something.contoso.comrồi gửi cho ChatGPT, thì đó là tính năng đáng để trả tiềnTôi đã triển khai bằng Python, nhưng vì là tính năng thêm vào gắn với một frontend riêng nên khá thô sơ