- Theo tweet của Kevin Bankston, dịch vụ Gemini AI của Google đang đọc các tài liệu riêng tư trên Drive mà không có sự cho phép của người dùng
- Đây là điều không xứng với danh tiếng của Google và người dùng hoàn toàn không có quyền kiểm soát đối với dữ liệu cá nhân nhạy cảm
- Đây không phải là dấu hiệu tốt cho các vấn đề quyền riêng tư trong tương lai do việc triển khai AI theo kiểu áp đặt
Chính xác thì chuyện gì đang xảy ra?
- Cả nhóm hỗ trợ của Google lẫn Gemini AI đều không biết chính xác, nhưng Kevin Bankston đã đưa ra một số giả thuyết
- Về mặt kỹ thuật, hiện tượng này đang diễn ra trên toàn bộ Google Drive chứ không chỉ trong Google Docs
Nguyên nhân của vấn đề này là gì?
- Theo Gemini AI, phải có một cài đặt quyền riêng tư được bật công khai để Gemini có thể biết được, nhưng thực tế không phải vậy
- Có vẻ như AI đang "ảo giác (nói dối)" hoặc một số hệ thống nội bộ trên máy chủ Google đang gặp trục trặc
- Ngay cả khi dữ liệu riêng tư này không được dùng để huấn luyện Gemini AI thì mọi chuyện vẫn trông rất tệ
Vấn đề với công tắc cài đặt mà Bankston phát hiện
- Tính năng tóm tắt của Gemini vốn đã bị vô hiệu hóa
- Trang web mà bot Gemini ban đầu chỉ tới lại nằm ở một nơi hoàn toàn khác
Trong trường hợp của Bankston, có vẻ vấn đề chỉ giới hạn ở Google Drive
- Ít nhất chỉ xảy ra sau khi nhấn nút Gemini trong một tài liệu
- Loại tài liệu trùng khớp (trong trường hợp này là PDF) sau đó sẽ tự động kích hoạt Google Gemini cho mọi tệp cùng loại được mở trong Google Drive về sau
- Việc đã bật Google Workspace Labs vào năm 2023 có thể là nguyên nhân. Điều này có thể bỏ qua các cài đặt Gemini AI vốn được dự định áp dụng
Ngay cả khi vấn đề này chỉ giới hạn ở người dùng Google Workspace Labs thì đây vẫn là một nhược điểm nghiêm trọng
- Cái giá phải trả cho việc hỗ trợ thử nghiệm công nghệ mới nhất
- Sự đồng ý của người dùng ở mức chi tiết vẫn rất quan trọng, đặc biệt với thông tin có thể nhạy cảm
- Google đã hoàn toàn thất bại, ít nhất là với một bộ phận người dùng, khi không giữ vững nguyên tắc này
Ý kiến của GN⁺
- Việc thu thập và phân tích thông tin cá nhân mà không có sự đồng ý của người dùng là một hành vi xâm phạm quyền riêng tư nghiêm trọng. Điều này càng nghiêm trọng hơn nếu đó là thông tin nhạy cảm như hoàn thuế
- Khi công nghệ AI phát triển, những vấn đề như vậy có thể trở nên nghiêm trọng hơn nữa. Các công ty cần đặt việc bảo vệ quyền riêng tư của người dùng lên hàng đầu
- Cần có các biện pháp bảo vệ tốt hơn và tính minh bạch cao hơn cho những người dùng tham gia các chương trình thử nghiệm beta như Google Workspace Labs
- Khi triển khai công nghệ AI, việc tôn trọng sự đồng ý và quyền lựa chọn của người dùng là rất quan trọng. Cách làm mang tính áp đặt sẽ khiến người dùng mất niềm tin
- Google nên nhân sự việc này để rà soát lại chính sách quyền riêng tư trong các dịch vụ của mình, bao gồm Gemini AI, và tăng cường giao tiếp với người dùng
Chưa có bình luận nào.