Hệ thống hỗ trợ AI của Cursor IDE gây ảo giác, khiến người dùng hoang mang

• Cursor IDE có ưu điểm là cho phép đăng nhập đồng thời trên nhiều thiết bị và chuyển đổi công việc giữa chúng
• Tuy nhiên, từ một thời điểm nào đó, đã xuất hiện hiện tượng người dùng bị tự động đăng xuất khi chuyển từ desktop sang laptop hoặc khi đăng nhập trên nhiều thiết bị
• Việc đăng xuất diễn ra mà không có bất kỳ cảnh báo hay thông báo nào, khiến người dùng bối rối
• Vì làm việc trên nhiều thiết bị là tính năng thiết yếu với lập trình viên, người dùng đương nhiên hiểu nhầm việc chặn đột ngột này là một chính sách mới

"Thông báo chính sách sai sự thật" của hệ thống hỗ trợ

• Khi người dùng gửi câu hỏi tới email hỗ trợ của Cursor, câu trả lời nhận được là: "Đây là hành vi bình thường theo chính sách đăng nhập mới"
• Vấn đề là câu trả lời này được tạo ra bởi AI chatbot chứ không phải con người thật, và đó là thông tin sai sự thật, không phải chính sách thực tế
• Phần giải thích do AI tự tạo này lan truyền rất nhanh trong cộng đồng người dùng và bị hiểu nhầm là chính sách chính thức
• Nhiều người dùng dựa trên thông tin sai lệch này đã công khai tuyên bố hủy đăng ký và mất niềm tin vào Cursor

Phản ứng của cộng đồng và sự thiếu hụt ứng phó

• Chủ đề chính trên Reddit, nơi mọi người chia sẻ tình hình và thảo luận vấn đề, đã bị khóa rồi xóa
• Vì vậy, Cursor bị nhìn nhận là đã giữ im lặng mà không có phản hồi hay giải thích chính thức về vụ việc
• Trên thực tế, đây không phải thay đổi chính sách mà chỉ là lỗi xử lý session ở backend, nhưng lời giải thích do AI tạo ra lại gây thiệt hại lớn hơn

Ý nghĩa của vụ việc

• Vụ việc này cho thấy đây không chỉ là một sai sót kỹ thuật đơn thuần, mà còn là ví dụ cho việc hệ thống hỗ trợ AI có thể phá vỡ niềm tin của người dùng
• Nếu AI chứ không phải đội ngũ thực tế phụ trách hỗ trợ khách hàng, hiện tượng "ảo giác (hallucination)" tạo ra thông tin sai có thể xảy ra, và thiệt hại từ đó có thể rất lớn
• Khi thiếu minh bạch trong giao tiếp với người dùng kết hợp với quản lý lỏng lẻo hệ thống AI, hậu quả có thể trở nên nghiêm trọng

[GN⁺]

Ý kiến trên Hacker News

• Thật mỉa mai khi mọi người ra sức khẳng định ảo giác không còn là vấn đề lớn nữa, trong khi chính công ty được hưởng lợi từ câu chuyện đó lại bị thiệt hại trực tiếp

  • Tất nhiên họ sẽ cố phớt lờ vấn đề này
  • Làm vậy vẫn tốt hơn là thừa nhận rằng vấn đề này vẫn còn tồn tại và sẽ không sớm biến mất

• Cảm thấy không thoải mái với LLM

  • Tự hỏi vì sao một lập trình viên phần mềm có lòng tự trọng lại dùng thứ này
  • Nên học cách viết phần mềm tốt và trở thành chuyên gia trong lĩnh vực đó
  • AI làm giảm giá trị của phần mềm, phá hỏng quy trình, và gần như xóa sạch hy vọng phát triển kỹ năng của các lập trình viên junior trong tương lai
  • Sẽ tiếp tục dùng Debian, Python và Vim
  • Vẫn sẽ tự hào viết ra mã dễ bảo trì mà không cần LLM, LSP hay tự động hoàn thành

• Theo hướng thuyết âm mưu thì có vẻ họ muốn đổ lỗi việc thay đổi chính sách cho "tác nhân hỗ trợ AI" và hy vọng không ai đào sâu thêm

  • Ngoài sự thiếu tin tưởng nói chung với công ty thì không có kiến thức hay lý do cụ thể nào liên quan việc này

• Cung cấp liên kết lưu trữ của bài đăng Reddit gốc

• Không phải vì nghĩ thay đổi chính sách là thật, mà vì chuyện này nhắc rằng tháng này mình không dùng nhiều nên đã hủy đăng ký

• Cursor thật kỳ lạ

  • Có hàng nghìn issue chưa được giải quyết trên GitHub vốn gần như không được sử dụng
  • Nhiều lỗi hơn VSCode
  • Dùng hằng ngày và trả tiền nhưng vẫn ghét nó
  • Khi bạn tạo ra được một sản phẩm mà mọi người ghét nhưng vẫn dùng, thì coi như đã thành công
  • Tò mò không biết có lựa chọn thay thế nào khác không
  • Đã thử Continue nhưng trải nghiệm tab completion và gõ phím gây thất vọng

• Cursor đang mắc kẹt trong trò mèo vờn chuột với kiểu "hack" người dùng tạo tài khoản mới để dùng không giới hạn

  • Nó thậm chí từng lên trending trên GitHub
  • Cursor sẽ luôn gặp khó khăn trong việc duy trì fork VSCode của riêng mình
  • Các công ty khác trong lĩnh vực này đang mở rộng rất nhanh, và bản thân người viết cũng bắt đầu chuyển sang Roo và Cline

• Bằng chứng nào cho tuyên bố rằng "hàng chục người dùng đã công khai hủy đăng ký"?

  • Trong phần bình luận, tổng cộng có 4 người dùng nói rằng họ đã hủy hoặc sẽ hủy đăng ký, trong đó 3/4 nói rằng họ sẽ hủy nếu vấn đề này là thật hoặc xảy ra với họ
  • Chỉ có 1 người nói rằng mình đã hủy thật
  • Tò mò không biết có thảo luận nào khác nữa không

• Trong bài đăng top trên Reddit:

  • Có lời xin lỗi vì sự nhầm lẫn
  • Nếu đó là lời xin lỗi chân thành thì họ đã ngừng cố dùng chatbot để làm hỗ trợ khách hàng rồi

• Trường hợp này sẽ được ghi nhớ trong lịch sử như một ví dụ mà sự cường điệu về AI vượt xa năng lực thực tế của AI