Sau phản ứng dữ dội, Zoom tuyên bố sẽ không sử dụng dữ liệu khách hàng để huấn luyện mô hình AI
(darkreading.com)- Sau khi vấp phải làn sóng phản đối vì quyền sử dụng dữ liệu bị cho là quá mức sau khi triển khai các tính năng AI tạo sinh, Zoom đã sửa điều khoản và sản phẩm để không dùng nội dung khách hàng cho việc huấn luyện mô hình AI
- Các dữ liệu được loại trừ bao gồm âm thanh, video, chat, chia sẻ màn hình, tệp đính kèm và cả những nội dung mang tính giao tiếp như kết quả khảo sát, bảng trắng và phản ứng
- Khởi nguồn tranh cãi là chính sách trước đó cho phép sử dụng một phần dữ liệu khách hàng để huấn luyện phục vụ các tính năng như Zoom IQ Meeting Summary và Zoom IQ Team Chat Compose
- Sau phản ứng từ khách hàng, Zoom trước tiên đã bổ sung opt-out, nhưng sau đó tiếp tục sửa điều khoản ngày 11/8 theo hướng loại bỏ phần lớn các diễn đạt liên quan đến việc sử dụng AI
- Điều khoản mới vẫn giữ quyền đối với dữ liệu do dịch vụ tạo ra như telemetry, dữ liệu sử dụng sản phẩm và dữ liệu chẩn đoán, nên căng thẳng giữa tính năng AI và niềm tin người dùng vẫn còn tồn tại
Điều khoản Zoom được sửa để loại trừ nội dung khách hàng khỏi huấn luyện AI
- Zoom đã cập nhật Terms of Service sau phản hồi từ khách hàng, làm rõ rằng họ sẽ không sử dụng nội dung khách hàng để huấn luyện mô hình AI của Zoom hoặc bên thứ ba
- Các loại dữ liệu bị loại trừ khỏi huấn luyện AI gồm:
- âm thanh
- video
- chat
- chia sẻ màn hình
- tệp đính kèm
- nội dung khách hàng mang tính giao tiếp như kết quả khảo sát, bảng trắng và phản ứng
- Bối cảnh của tranh cãi đến từ các tính năng AI tạo sinh của Zoom
- Zoom IQ Meeting Summary: tính năng tự động tóm tắt cuộc họp bằng AI
- Zoom IQ Team Chat Compose: tính năng soạn nội dung chat bằng AI
- Chính sách trước đó trao cho Zoom quyền sử dụng một phần dữ liệu khách hàng để huấn luyện mô hình AI phục vụ các tính năng này, và việc điều đó có thể diễn ra mà không cần sự đồng ý của khách hàng đã dẫn tới phản ứng dữ dội
Quyền sử dụng dữ liệu quá rộng và gánh nặng niềm tin ngày càng lớn
- Điều khoản cũ trao cho Zoom quyền rất rộng liên quan đến việc sử dụng dữ liệu khách hàng
- quyền “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable”
- các mục đích rộng, bao gồm machine learning, artificial intelligence, training và testing
- các hành vi như “redistribute, publish, import, access, use, store, transmit, disclose” đối với dữ liệu
- Khi phản ứng từ khách hàng lan rộng trên mạng xã hội, Zoom trước tiên đã sửa chính sách theo hướng “không sử dụng nội dung khách hàng là âm thanh, video, chat để huấn luyện mô hình AI nếu không có sự đồng ý của khách hàng”
- Sau đó, vào ngày 11/8, công ty tiếp tục sửa điều khoản và trên thực tế đã loại bỏ gần như toàn bộ các diễn đạt liên quan đến việc sử dụng trí tuệ nhân tạo
- Tuy vậy, điều khoản mới vẫn giữ nguyên quyền của Zoom đối với dữ liệu do dịch vụ tạo ra
- dữ liệu telemetry
- dữ liệu sử dụng sản phẩm
- dữ liệu chẩn đoán
- Shomron Jacob, lãnh đạo machine learning tại iterate.ai, cho rằng các công ty công nghệ từ lâu đã sử dụng dữ liệu khách hàng để cải thiện trải nghiệm người dùng và triển khai tính năng mới
- trong bối cảnh đó, Google, Facebook và Amazon đã dùng dữ liệu người dùng để cá nhân hóa dịch vụ và cải thiện các thuật toán AI
- Khi sự giám sát đối với các vấn đề quyền riêng tư, bảo mật và đạo đức của AI gia tăng, kỳ vọng về tính minh bạch và sự đồng ý của người dùng cũng tăng theo
- Các khung pháp lý như GDPR và CCPA của California đang thiết lập tiêu chuẩn cho việc thu thập và sử dụng dữ liệu, buộc các công ty công nghệ phải đồng thời xử lý bài toán tận dụng dữ liệu để cải thiện AI, tuân thủ quy định và bảo vệ niềm tin của người dùng
1 bình luận
Ý kiến trên Hacker News
Nếu dữ liệu được lưu trong cơ sở dữ liệu mà công ty có thể tự do đọc và truy cập, tức là không phải mã hóa đầu cuối, thì rốt cuộc công ty sẽ đổi điều khoản để tìm cách dùng dữ liệu đó cho huấn luyện AI
Tôi nghĩ động lực quá mạnh nên khó cưỡng lại
Khách hàng trả phí rất ghét việc dữ liệu của họ bị dùng để huấn luyện mô hình AI mà không có sự cho phép, và vụ Zoom lần này là ví dụ mới nhất
Công ty nào thử làm vậy sẽ bị phản ứng dữ dội, và Zoom đã bị phản ứng nặng rồi. Cá nhân tôi nghĩ Zoom thực ra không định làm như thế, mà gần với việc họ không làm rõ đủ rằng mình sẽ không làm, dẫn đến một thảm họa PR
Nếu khách hàng trả phí không thích, thì từ góc nhìn công ty, động lực lại nghiêng mạnh hơn nhiều về phía không làm
Với doanh nghiệp, việc phải theo dõi từng mảnh dữ liệu được lưu dưới phiên bản điều khoản nào sẽ rất phiền phức, nhưng phải phiền đến mức đó thì họ mới có thể bắt đầu đối xử với dữ liệu như một khoản nợ đúng nghĩa
Không có ngữ cảnh, cũng không có kiểm soát chất lượng. Ngay cả khi giả định trí tuệ đám đông trung bình sẽ tiến gần đến câu trả lời đúng, thì rốt cuộc cũng chỉ là huấn luyện AI đưa ra những câu trả lời tầm thường
Trong cơn sốt big data, nhiều công ty lưu mọi thứ vì cho rằng dữ liệu có giá trị, nhưng phần lớn thậm chí không đáng bằng chi phí ổ cứng. Nó chỉ có giá trị khi có người mua sẵn sàng trả chi phí để khai thác
Thế giới có rất nhiều dữ liệu, nhưng thứ thật sự có giá trị là thông tin và tri thức
Zoom chỉ thất vọng vì thay đổi điều khoản bị lan truyền rộng, và có lẽ cũng thất vọng vì danh tiếng của họ về mặt thân thiện với quyền riêng tư đủ tốt để việc này trở thành tranh cãi
Tôi tự hỏi liệu Teams có gặp phản ứng tương tự không nếu trong điều khoản của họ chưa có sẵn nội dung như vậy
Có người có thể cảm nhận khác, nhưng tất cả những người tôi biết đều đã ghét Teams và chỉ dùng khi công ty bắt buộc
Trước đây tôi từng nói chuyện với một lãnh đạo Microsoft, người đó nói từng có ý tưởng đưa quảng cáo theo ngữ cảnh vào Hotmail giống Gmail, nhưng đã bị bác bỏ mạnh mẽ
Ý tưởng dùng dữ liệu khách hàng, thậm chí dữ liệu người dùng miễn phí, theo cách đó từng là điều cấm kỵ. Microsoft kiếm tiền từ các hợp đồng doanh nghiệp khổng lồ, và nếu dữ liệu khách hàng bị dùng theo bất kỳ cách nào đem lại lợi ích cho đối thủ cạnh tranh, các hợp đồng đó có thể bị đe dọa
Bài liên quan:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - tháng 8/2023 (35 bình luận)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - tháng 8/2023 (177 bình luận)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - tháng 8/2023 (16 bình luận)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - tháng 8/2023 (194 bình luận)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - tháng 8/2023 (510 bình luận)
Zoom rõ ràng có nhiều mô hình AI, Teams hay Google Chat cũng vậy
Cần các mô hình đó cho phụ đề tự động và chuyển lời nói thành văn bản trong cuộc họp, cũng cần mô hình cho làm mờ nền tự động và tách nền. Có lẽ họ cũng đang làm sản phẩm “tóm tắt cuộc họp”
Đây là những tính năng mọi người thích và dùng thường xuyên. Tôi tự hỏi mọi người kỳ vọng Zoom cải thiện các tính năng này thế nào nếu không thu thập dữ liệu người dùng thực tế trên nền tảng
Quá muộn rồi. Tôi mất một giờ để dựng một instance Jitsi tự host, và không có lý do gì để quay lại
Tôi ngạc nhiên về hiệu năng và độ ổn định của Jitsi
Nhiều người tôi biết, trong đó có tôi, sắp đi theo hướng này
Đang lập danh sách các công ty AI dùng dữ liệu người dùng để huấn luyện: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Mục về Zoom sẽ được cập nhật, nhưng tôi vẫn thấy đáng ngờ
Tuần trước tôi đã fit một mô hình hồi quy bằng một phần dữ liệu khách hàng, vậy có phải tôi đã huấn luyện AI bằng dữ liệu khách hàng không? Đây là vấn đề về ý định, về việc có hướng tới người dùng công khai hay không, hay về việc đó có phải mô hình sinh tạo không?
Vì vậy tôi không nghĩ tiêu chí đó được áp dụng
Zoom có lưu dữ liệu video hoặc âm thanh của cuộc gọi không? Đây mới thực sự là câu hỏi cốt lõi
Nếu có bất kỳ thứ gì được lưu lại thì không thể tin được
Ngoài ra, nếu dùng các giao thức streaming video như HLS hay MPEG-DASH, luồng sẽ được lưu thành các mảnh video rồi sau đó bị xóa
Lại một lần nữa thật thất vọng khi các tập đoàn lớn cố lén đẩy những chính sách như thế này vào mà không để ai chú ý
Ai lại nghĩ chuyện này là ổn? Chỉ là các giám đốc điều hành muốn kiếm tiền thôi sao? Chúng ta phải làm tốt hơn thế
“Sau phản ứng dữ dội, Zoom nói rằng họ sẽ không dùng dữ liệu khách hàng để huấn luyện mô hình AI”
Hiện tại thì chưa
Ngay từ đầu, nếu mọi thứ đều được mã hóa đầu cuối thì làm sao họ huấn luyện được?
Với mọi người thì có vẻ khá rõ bên nào hợp lý hơn, nhưng kỳ lạ là có lẽ sẽ có ý kiến khác nhau về bên nào vô lý
Zoom, giống như Meet, Teams, WebEx và nhiều dịch vụ tôi biết, được “mã hóa”, nhưng “mã hóa đầu cuối” theo nghĩa thông thường không phải là mặc định. Một số có tùy chọn E2EE, nhưng nó bị chôn sâu trong phần cài đặt dịch vụ và không dễ bật
Vì vậy, theo thiết kế, máy chủ có thể xem âm thanh và video, và thực tế là có xem. Nếu hạ tầng bị xâm phạm, kẻ tấn công cũng có thể xem. Mã hóa ở chế độ mặc định chỉ ngăn ISP nhìn thấy nội dung cuộc gọi
Ngược lại, cuộc gọi Signal là E2EE. Ngay cả cuộc gọi được chuyển tiếp qua máy chủ Signal, Signal cũng không thể thấy video hay âm thanh đã giải mã. Tuy nhiên, trong trường hợp này họ vẫn có thể biết những người tham gia cuộc gọi, nhưng không biết nội dung đã nói
Ngoài lề, đó là lý do chúng tôi tạo Booth.video. Mục đích là để cho thấy đây không phải là một đánh đổi căn bản, và hội nghị video có E2EE cùng bảo mật siêu dữ liệu cũng có thể thực hiện được ngay trên trình duyệt