Reor - Ứng dụng ghi chú AI chạy mô hình cục bộ

• Ứng dụng ghi chú desktop dựa trên AI. Tự động liên kết các ý tưởng liên quan, trả lời câu hỏi về ghi chú và cung cấp tìm kiếm ngữ nghĩa
• Mọi dữ liệu đều được lưu cục bộ, và có thể chỉnh sửa ghi chú bằng trình soạn thảo Markdown tương tự Obsidian
• Giả thuyết của dự án là các công cụ tư duy AI về cơ bản nên chạy mô hình cục bộ
• Reor dựa trên Llama.cpp và Transformers.js để cho phép chạy LLM và mô hình embedding ngay trên máy
• Cũng hỗ trợ kết nối với API tương thích OpenAI (ví dụ: Oobabooga)

Reor "self-organizing" như thế nào?

• Tất cả ghi chú đã viết sẽ được chia thành các chunk và embedding vào cơ sở dữ liệu vector nội bộ
• Các ghi chú liên quan được tự động liên kết thông qua độ tương đồng vector
• Q&A dựa trên LLM thực hiện RAG trên kho ghi chú
• Mọi thứ đều có thể được tìm kiếm theo ngữ nghĩa

Bắt đầu

• Có thể tải từ reorproject.org hoặc releases, hỗ trợ Mac, Linux và Windows
• Cài đặt như một ứng dụng thông thường

Chạy mô hình cục bộ

• Reor tương tác trực tiếp với thư viện Llama.cpp nên không cần tải Ollama
• Hiện tại chưa tự động tải mô hình, vì vậy người dùng phải tự tải mô hình thủ công
• Có thể tải các mô hình phổ biến nhất từ HuggingFace, và nên bắt đầu với mô hình 7B 4-bit
• Trong phần cài đặt Reor, có thể liên kết mô hình ở mục "Thêm mô hình cục bộ mới"
• Cũng có thể kết nối với các API tương thích OpenAI như Oobabooga, Ollama hoặc OpenAI

Nhập ghi chú từ ứng dụng khác

• Reor hoạt động trên một thư mục duy nhất trong hệ thống tệp
• Khi chạy lần đầu, cần chọn thư mục; để nhập ghi chú/tệp từ ứng dụng khác, cần tự điền các tệp Markdown vào thư mục đó theo cách thủ công
• Tích hợp với các ứng dụng khác sẽ sớm được cung cấp

Ý kiến của GN⁺

• Reor là một ứng dụng ghi chú dựa trên AI chạy cục bộ, có thể là công cụ đổi mới giúp mở rộng và tổ chức tư duy của người dùng
• Tính năng tự động liên kết ghi chú của người dùng và trả lời câu hỏi có vẻ sẽ rất hữu ích cho quản lý thông tin và học tập
• Dự án có tiềm năng tiếp tục phát triển nhờ đóng góp từ cộng đồng mã nguồn mở, nên có thể trở thành một dự án thú vị với các nhà phát triển và nhà nghiên cứu

[GN⁺]

Ý kiến trên Hacker News

• Một lời nhắc rất hay về tính hữu ích của các ghi chú Obsidian được lưu dưới dạng các tệp Markdown riêng lẻ:
  • Thay vì lưu ghi chú trong cơ sở dữ liệu và dùng Markdown như một định dạng xuất ra, việc có thể thao tác trực tiếp trên các tệp giúp nhiều ứng dụng khác nhau có thể thực hiện các tác vụ hữu ích trên cùng một bộ tệp.
• Bày tỏ sự trân trọng đối với quan điểm rằng AI nên mang tính cá nhân và chạy cục bộ nhiều nhất có thể:
  • Gửi lời cảm ơn vì góc nhìn này và những nỗ lực liên tục theo đuổi nó.
• Chia sẻ trải nghiệm cá nhân với các công cụ quản lý tri thức:
  • Khi dùng mô hình Hermes, tính năng "ghi chú liên quan" thường đưa ra các kết nối vô nghĩa nên không có nhiều giá trị.
  • Chế độ hỏi đáp hữu ích để truy vấn ghi chú và cung cấp cái nhìn tổng quan, nhưng không giúp nhiều cho các câu hỏi cụ thể hoặc đôi khi đưa ra câu trả lời sai.
• Ủng hộ mạnh mẽ việc phát triển các công cụ quản lý tri thức coi trọng quyền riêng tư và khả năng tương tác:
  • Người dùng nên có thể dễ dàng xuất và chuyển ghi chú sang dịch vụ mới khi cần.
  • Ưu tiên các giải pháp hoàn toàn cục bộ như Obsidian, nơi người dùng có thể mang mô hình riêng hoặc kết hợp plugin.
• Chia sẻ thông tin về Smart Connections v2 của Obsidian:
  • Hỗ trợ embedding cục bộ và hiển thị các ghi chú liên quan dựa trên độ tương đồng ngữ nghĩa.
  • Dù vẫn chưa hoàn hảo với các kho đa ngôn ngữ, nó đang được cải thiện và có thể sớm hỗ trợ các mô hình đa ngôn ngữ.
• Một số đề xuất cho Reor:
  • Tạo nhiều "vault" độc lập.
  • Thêm liên kết vào các ghi chú liên quan để biểu diễn các kết nối AI dưới dạng đồ thị.
  • Tối giản UI thành một cửa sổ trò chuyện.
  • Đọc các định dạng khác, chủ yếu là PDF.
  • Tích hợp với lịch sử/dấu trang trình duyệt (có cung cấp script nhập thủ công sang Markdown).
• Góc nhìn hoài nghi về tương lai của quản lý tri thức dùng AI:
  • Việc phụ thuộc quá nhiều vào AI để làm mọi công việc tổ chức có thể làm suy giảm khả năng tư duy.
  • Dù chưa có dữ liệu vì sự phổ biến của các công cụ này vẫn còn ở giai đoạn đầu, việc khiến học tập, suy nghĩ và "quản lý tri thức" trở nên thụ động hơn không cải thiện kết quả.
• Bày tỏ thiện cảm với Obsidian và các kết nối dựa trên đồ thị:
  • Nhận ra sự tương đồng giữa cấu trúc ghi chú của Obsidian và khái niệm "bộ não thứ hai" cho quản lý tri thức cá nhân.
  • Việc triển khai tìm kiếm ghi chú để tạo tham chiếu thông minh có vẻ là bước tiếp theo rất tự nhiên.
• Thể hiện sự hứng thú với dự án và yêu thích định hướng của nó:
  • Tò mò không biết dự án có nghiên cứu Cozodb hay các cơ sở dữ liệu khác kết hợp vector với đồ thị/triple hay không.
  • Có lẽ cách tiếp cận neural-symbolic sẽ là phương án tốt nhất.
• Chia sẻ trải nghiệm cá nhân với một dự án tương tự cho Obsidian:
  • Rất hào hứng khi thấy một thứ đã phát triển hơn nữa.
  • Đang thực hiện một dự án viết lớn bằng Obsidian, và mục tiêu cuối cùng là có thể trò chuyện với những gì mình đã viết, tinh chỉnh ý tưởng và thử nghiệm các cách mới để khám phá nội dung.
  • Chưa chắc các LLM cục bộ hiện đã đủ mạnh để tạo ra kết quả có ý nghĩa/đáng tin cậy hay chưa, nhưng rất hào hứng về tương lai của công nghệ này.
• Chia sẻ trải nghiệm tìm kiếm một cách tốt hơn để ghi chép:
  • Đang tải xuống và thử công cụ mới này, và nó trông rất hứa hẹn.
  • Khả năng tách riêng các ghi chú thuộc những ngữ cảnh hoàn toàn khác nhau là rất quan trọng.
  • Cần tránh việc đưa vào các LLM nghe có vẻ giống nhau nhưng thuộc ngữ cảnh khác.
  • Từng nghĩ "thư mục mới" sẽ làm được điều đó, nhưng có vẻ không phải vậy.
  • Muốn biết có kế hoạch triển khai bộ chuyển đổi cơ sở dữ liệu hay không, và cần thông tin về cách thay đổi vị trí hiện tại.
  • Rất vui khi thấy điều đó đã có trong một PR.