Show HN: Khoj - Trò chuyện ngoại tuyến như bộ não thứ hai bằng Llama 2

• Khoj: trợ lý cá nhân AI để tìm kiếm và trò chuyện với ghi chú, tài liệu và hình ảnh.
• Ứng dụng ưu tiên ngoại tuyến để sử dụng mà không cần kết nối internet.
• Khoj: công cụ mã nguồn mở có thể truy cập từ Emacs, Obsidian hoặc trình duyệt web.
• Hỗ trợ nhiều loại tệp khác nhau: jpeg, markdown, notion, org-mode, tệp pdf và kho lưu trữ github.
• Truy xuất tài liệu liên quan và nhận câu trả lời bằng ngôn ngữ tự nhiên với Khoj.
• Có thể cấu hình để sử dụng ngoại tuyến, một công cụ tiện lợi không cần internet.

[GN⁺]

Bình luận Hacker News

• Trang đích của website không đề cập đến trường hợp sử dụng Llama ngoại tuyến mà chỉ nhắc đến việc sử dụng trực tuyến thông qua OpenAI.
• Kích thước mô hình và việc fine-tuning của Llama 2 tiêu tốn nhiều RAM trên thiết bị tiêu dùng.
• Phản hồi về trang đích: hãy dùng container có chiều cao cố định cho các prompt ví dụ để tránh vấn đề cuộn.
• Llama 2 gây ra vấn đề hiệu năng trên Macbook Air M2 cỡ nhỏ.
• Dự án này có tiềm năng tóm tắt lịch sử web và phát triển thành AI cá nhân.
• Sẽ rất tuyệt nếu Llama có thể lập chỉ mục và OCR PDF để lập chỉ mục tài liệu.
• Có một cách được hỗ trợ để thay đổi mô hình dùng cho suy luận cục bộ trong Llama.
• Llama 2 có những trường hợp sử dụng đủ hữu ích để không kém khả năng sinh lợi so với ChatGPT.
• Thông điệp truyền tải của Khoj trên Hacker News đã được cải thiện so với trước đây.
• Llama hữu ích cho những người dùng Obsidian và thử nghiệm chat AI.
• Đã có yêu cầu về tính năng tìm kiếm tăng dần và các chi tiết triển khai.
• Một giao diện data connector dễ mở rộng để kết nối với các nguồn dữ liệu tùy chỉnh sẽ rất hữu ích.