Lược sử ngắn về tính năng tự động hoàn thành bằng phím Tab của Cursor

• Tính năng tự động hoàn thành bằng phím Tab hàng đầu của Cursor trở nên khả thi nhờ thương vụ thâu tóm mô hình Babble của Supermaven; mô hình này nổi bật với cửa sổ ngữ cảnh tối đa 1 triệu token và độ trễ thấp 250ms
• Các công cụ tự động hoàn thành dựa trên LLM trước đây có giới hạn là chỉ dự đoán phần mã sau vị trí caret, nhưng Babble cho phép gợi ý mã linh hoạt hơn nhờ học chuỗi chỉnh sửa dựa trên git diff
• Jacob Jackson, nhà sáng lập Supermaven, là người đã tạo ra TabNine, một trong những công cụ hoàn thành mã đầu tiên, vào năm 2018 trước khi làn sóng LLM bùng nổ
  • Sau khi Tabnine được mua lại, ông làm việc tại OpenAI với vai trò nhà nghiên cứu, rồi tách ra độc lập và phát triển Supermaven, đối thủ của Cursor, vào năm 2022
  • Dù Supermaven không đạt được mức độ phổ biến như Cursor, mô hình tự động hoàn thành bằng phím Tab Babble vẫn thuộc hàng tốt nhất thị trường
  • Tính đến năm 2024, Babble đạt ngữ cảnh 300k và độ trễ 250ms, vượt xa Cursor
  • Trước khi được Cursor thâu tóm, Babble đã hỗ trợ cửa sổ ngữ cảnh 1 triệu token, lớn vượt trội so với các mô hình chat phổ biến thời điểm đó
• Điểm khác biệt của Babble nằm ở phương pháp huấn luyện
  • Tự động hoàn thành LLM thông thường chỉ điền mã sau caret (cách FIM)
  • Babble có thể dự đoán các thay đổi ở nhiều vị trí trong mã, kể cả giữa nhiều tệp, nhờ huấn luyện dựa trên chuỗi chỉnh sửa
  • Cấu trúc này tương tự git diff và là phương pháp huấn luyện phản ánh hành vi chỉnh sửa thực tế của lập trình viên
• Thương vụ sáp nhập với Cursor
  • Cursor kiểm soát chính IDE của mình, nên đã có thể huấn luyện mô hình dựa trên dữ liệu lịch sử chỉnh sửa của lập trình viên, tạo ra khác biệt so với TabNine hay các công cụ dựa trên plugin thông thường
  • Điều này mang lại một môi trường cực kỳ thuận lợi cho việc huấn luyện mô hình tự động hoàn thành
  • Sau khi vấp phải giới hạn của plugin, Jacob đã có kế hoạch xây dựng IDE của riêng mình; còn Cursor thì đang nỗ lực bắt kịp tính năng hoàn thành bằng Tab, nên đây là một lựa chọn rất phù hợp cho cả hai
  • Cursor và Jackson đã quen biết từ trước, nên thương vụ thâu tóm là một lựa chọn tự nhiên
• Nhờ đó, Cursor đã xây dựng được mô hình tự động hoàn thành bằng phím Tab tốt nhất thị trường
  • Và hiện tại, Cursor vẫn duy trì lợi thế công nghệ trong tự động hoàn thành nhờ tệp người dùng khổng lồ và hào dữ liệu (data moat)
  • Rủi ro lớn nhất lúc này là, như trường hợp của Cline cho thấy, quy trình code-copilot có thể bị thay đổi hoàn toàn

[bbulbum]

Trước đây tôi đã rất chăm chỉ tìm xem có plugin nào giúp tự động hoàn thành ở mức như Cursor cho neovim không, hóa ra đó là thứ có thể làm được bằng một mô hình riêng..

[postercolo]

Tôi đang dùng plugin supermaven cho neovim. Bản miễn phí mà thấy còn tốt hơn Copilot.