Tabby: Trợ lý lập trình AI tự lưu trữ

• Giới thiệu về Tabby

  • Tabby là một trợ lý lập trình AI có thể tự lưu trữ, đóng vai trò là giải pháp thay thế cho GitHub Copilot.
  • Có kiến trúc độc lập, không cần DBMS hay dịch vụ đám mây.
  • Có thể dễ dàng tích hợp với hạ tầng hiện có thông qua giao diện OpenAPI.
  • Hỗ trợ GPU cấp độ người tiêu dùng.

• Tính năng mới

  • Ngày 6 tháng 12 năm 2024: Tích hợp triển khai Llamafile và trải nghiệm người dùng Answer Engine được cải thiện sẽ được thêm vào Tabby v0.21.0.
  • Ngày 10 tháng 11 năm 2024: Việc chuyển đổi giữa nhiều mô hình chat backend khác nhau trong Answer Engine được hỗ trợ từ Tabby v0.20.0.
  • Ngày 30 tháng 10 năm 2024: Tabby v0.19.0 bổ sung các luồng gần đây được chia sẻ trên trang chính để tăng khả năng hiển thị.
  • Ngày 9 tháng 7 năm 2024: Công bố tích hợp Codestral.
  • Ngày 5 tháng 7 năm 2024: Tabby v0.13.0 giới thiệu Answer Engine, tích hợp dữ liệu nội bộ của đội phát triển để cung cấp câu trả lời đáng tin cậy.
  • Ngày 13 tháng 6 năm 2024: VSCode 1.7 cung cấp nhiều trải nghiệm chat khác nhau xuyên suốt quá trình lập trình.
  • Ngày 10 tháng 6 năm 2024: Công bố bài viết blog về khả năng hiểu ngữ cảnh mã nguồn được cải thiện của Tabby.
  • Ngày 6 tháng 6 năm 2024: Tabby v0.12.0 cung cấp khả năng tích hợp liền mạch với Gitlab SSO, GitHub/GitLab tự lưu trữ và nhiều hệ thống khác.
  • Ngày 22 tháng 5 năm 2024: Tabby VSCode 1.6 cung cấp nhiều lựa chọn trong inline completion và hỗ trợ thông điệp commit được tạo tự động.
  • Ngày 11 tháng 5 năm 2024: v0.11.0 mang đến bản nâng cấp enterprise lớn, bao gồm tích hợp GitHub và GitLab, trang hoạt động, cùng tính năng Ask Tabby.
  • Ngày 22 tháng 4 năm 2024: v0.10.0 giới thiệu tab báo cáo mới nhất, cung cấp phân tích theo từng nhóm.
  • Ngày 19 tháng 4 năm 2024: Tabby tích hợp các snippet liên quan cục bộ để hoàn thành mã.
  • Ngày 17 tháng 4 năm 2024: Các dòng mô hình CodeGemma và CodeQwen được thêm vào registry chính thức.
  • Ngày 20 tháng 3 năm 2024: v0.9 làm nổi bật UI quản trị cho đầy đủ tính năng.
  • Ngày 23 tháng 12 năm 2023: Có thể triển khai Tabby liền mạch lên đám mây thông qua SkyServe của SkyPilot.
  • Ngày 15 tháng 12 năm 2023: v0.7.0 cung cấp quản lý nhóm và quyền truy cập bảo mật.
  • Ngày 15 tháng 10 năm 2023: Hoàn thành mã dựa trên RAG được kích hoạt trong v0.3.0.
  • Ngày 27 tháng 11 năm 2023: Phát hành v0.6.0.
  • Ngày 9 tháng 11 năm 2023: v0.5.5 bao gồm thiết kế lại UI và cải thiện hiệu năng.
  • Ngày 24 tháng 10 năm 2023: Cập nhật lớn cho plugin IDE Tabby trên VSCode/Vim/IntelliJ.
  • Ngày 4 tháng 10 năm 2023: Có thể kiểm tra các mô hình mới nhất được Tabby hỗ trợ trong model directory.
  • Ngày 18 tháng 9 năm 2023: Hỗ trợ suy luận Metal trên Apple M1/M2 được thêm vào v0.1.1.
  • Ngày 31 tháng 8 năm 2023: Phát hành phiên bản ổn định đầu tiên của Tabby, v0.0.1.
  • Ngày 28 tháng 8 năm 2023: Hỗ trợ thử nghiệm cho CodeLlama 7B.
  • Ngày 24 tháng 8 năm 2023: Tabby được đưa lên JetBrains Marketplace.

• Bắt đầu

  • Có thể xem trong tài liệu cách cài đặt, các tiện ích mở rộng cho IDE/trình soạn thảo và cách cấu hình.

• Cộng đồng

  • Có thể kết nối với TabbyML qua Twitter/X, LinkedIn và bản tin.

[GN⁺]

Ý kiến trên Hacker News

• Một người dùng cho biết đây có thể là một sản phẩm tốt, nhưng quá trình phỏng vấn thì rất tệ. Họ đã trải qua nhiều vòng phỏng vấn, nhưng sau vòng cuối thì bị cắt liên lạc mà không có bất kỳ lời giải thích nào. Sau khi viết một bài blog, họ vẫn không nhận được phản hồi trong nhiều tháng, và chỉ sau khi liên tục hỏi lại mới nhận được câu trả lời. Tất cả các buổi phỏng vấn đều ở dạng bài tập, và tổng thời gian họ đã đầu tư là hơn 10 giờ.

• Có ý kiến cho rằng các lựa chọn thay thế GitHub Copilot không hoạt động trên VS2022. Người này nói rằng họ muốn một trợ lý AI tự lưu trữ có thể dùng trên VS2022. Họ đặt câu hỏi vì sao VS2022 hỗ trợ plugin mà lại không có lựa chọn thay thế phù hợp.

• Có ý kiến nói rằng bản demo hoàn thiện hàm findMaxElement trên trang chủ là một ví dụ của hiện tại hoặc tương lai. Đoạn mã Python 6 dòng được đề xuất có thể được thay bằng return max(arr). Mã được đề xuất bị đánh giá là ở mức nhập môn. Họ lo ngại rằng những người sử dụng tính năng tự động hoàn thành một cách mù quáng sẽ bị chững lại về năng lực kỹ thuật. Có thể họ vẫn hoàn thành được story point, nhưng người này đặt câu hỏi liệu kỹ năng thực sự có được cải thiện hay không.

• Có người nói rằng họ chưa từng tưởng tượng dự án Tabby lại có thể lên trang nhất HN. Tabby đã phát triển đáng kể kể từ khi ra mắt và đã trở thành một nền tảng AI dành cho lập trình viên toàn diện, nổi bật với hoàn thành mã và trò chuyện với codebase. Một người dùng của Tabby cho biết họ biết đến Tabby vì đây là nền tảng duy nhất cung cấp trải nghiệm onboarding dịch vụ tự lưu trữ. Hiệu năng của nó cũng được nói là có thể cạnh tranh với các lựa chọn khác trên thị trường. Nếu tò mò thì họ khuyên nên thử.

• Một người dùng chưa quen với AI cục bộ nói rằng họ muốn thử Tabby. Họ thắc mắc "run tabby in 1 minute" so với bản miễn phí 4o-mini của ChatGPT thì thế nào. Họ hỏi liệu có thể chạy lệnh Docker trên một chiếc MacBook Pro cấu hình tầm trung để dùng một AI nhanh và đủ năng lực hay không. Có ý kiến cho rằng sức mạnh tính toán của M1/M2 có hạn và có lẽ chỉ phù hợp cho mục đích cá nhân. Nếu cần một instance dùng chung cho cả nhóm thì nên cân nhắc Docker hosting cùng CUDA hoặc ROCm.

• Có ý kiến cho rằng trong Community Edition không thể tắt telemetry của IDE/Extensions. Họ thắc mắc dữ liệu telemetry này bao gồm những gì.

• Có người nói rằng mọi ví dụ đều là mã có thể tìm thấy trong thư viện. Một phần mã bị cho là đáng nghi về chất lượng. Họ lo ngại rằng LLMs có thể trở thành các bot spam trong codebase.

• Có ý kiến cho rằng ý tưởng không gửi dữ liệu cho các tập đoàn lớn và có thể tin vào TOS là một điểm tốt. Hiệu quả của trợ lý lập trình được cho là tỷ lệ thuận với độ dài ngữ cảnh, trong khi các mô hình mở có thể chạy trên máy tính cá nhân thường nhỏ hơn. Họ muốn xem dữ liệu định lượng về mức độ hữu ích trong các codebase phức tạp hơn.

• Có người cho biết họ đang xem xét các giải pháp AI tự lưu trữ tại nơi làm việc. Họ thắc mắc công ty này kiếm tiền bằng cách nào. Có các lựa chọn miễn phí/community/open-source, và họ hỏi giới hạn "tối đa 5 người dùng" được giám sát như thế nào. Họ cũng muốn biết điều gì xảy ra nếu có hơn 5 người dùng.

• Có ý kiến cho rằng Tabby chỉ hỗ trợ sử dụng một GPU duy nhất. Nếu muốn dùng nhiều GPU thì phải khởi chạy nhiều instance Tabby và đặt CUDA_VISIBLE_DEVICES hoặc HIP_VISIBLE_DEVICES. Họ hỏi liệu việc dùng hai GPU kết nối bằng NVLink có không được hỗ trợ, hay trường hợp đó khác vì NVLink khiến hai GPU được xem như một.