Hỏi Microsoft: Dữ liệu cá nhân của chúng ta có đang được dùng để huấn luyện AI không?
(foundation.mozilla.org)- 9 người gồm luật sư, chuyên gia quyền riêng tư và nhà vận động đã xem xét Thỏa thuận Dịch vụ (Service Agreement) mới của Microsoft, nhưng không ai xác định được liệu dữ liệu cá nhân có được dùng để huấn luyện mô hình AI hay không
- Phạm vi xem xét bao gồm dữ liệu cá nhân như âm thanh, video, cuộc trò chuyện, tệp đính kèm được thu thập từ 130 sản phẩm như Office, Skype, Teams, Xbox
- Nếu ngay cả 9 chuyên gia quyền riêng tư cũng không hiểu được các điều khoản này, thì khả năng người dùng thông thường nắm bắt được gần như là không có
- Mozilla yêu cầu Microsoft trả lời rõ ràng cho câu hỏi đơn giản: "Có sử dụng dữ liệu cá nhân để huấn luyện AI hay không"
- Thiếu minh bạch trong việc sử dụng dữ liệu được nêu là vấn đề cốt lõi
Vấn đề cốt lõi mà chiến dịch nêu ra
- 4 luật sư, 3 chuyên gia quyền riêng tư và 2 nhà vận động đã xem xét thỏa thuận dịch vụ mới của Microsoft
- Trong số 9 chuyên gia, không ai xác định được liệu Microsoft có kế hoạch sử dụng dữ liệu cá nhân để huấn luyện mô hình AI hay không
- Không thể xác nhận việc sử dụng dữ liệu do các điều khoản mơ hồ
- Nếu 9 chuyên gia quyền riêng tư cũng không hiểu được các điều khoản này, thì một người bình thường gần như không có khả năng hiểu
Phạm vi dữ liệu được xem xét
- Đối tượng là dữ liệu cá nhân được thu thập từ 130 sản phẩm
- Ví dụ sản phẩm bao gồm: Office, Skype, Teams, Xbox
- Loại dữ liệu: âm thanh, video, cuộc trò chuyện, tệp đính kèm
Yêu cầu của Mozilla
- Yêu cầu Microsoft trực tiếp công khai liệu họ có sử dụng dữ liệu cá nhân để huấn luyện AI hay không
- Tiến hành chiến dịch kêu gọi phản hồi thông qua sự tham gia của người dùng (ký tên)
1 bình luận
Ý kiến trên Hacker News
Cấu trúc quản lý Big Tech là một thảm họa hoàn toàn
Không thể để thực tế là gần như toàn bộ điểm tiếp xúc số của một phần lớn người dân toàn cầu bị hai công ty kiểm soát trên thực tế
Không có lý do gì để tin rằng họ sẽ không lạm dụng vị thế đó theo những cách thiếu minh bạch và khó truy vết. Đây là các công ty vì lợi nhuận với lượng vốn hàng nghìn tỷ, sở hữu cả đội quân luật sư và nhà vận động hành lang có thể đe dọa ngay cả các quốc gia tầm trung, và họ sẽ tận dụng mọi điểm yếu của một hệ thống quản lý và chính trị bất tài, hỗn loạn và bị chi phối
Họ bị thúc ép phải làm vậy vì cổ đông, và những cổ đông đó chỉ đơn giản là muốn đưa vài “kẻ thắng cuộc” công nghệ vào danh mục đầu tư của mình, bất kể cấu trúc song cực độc quyền này có phá hỏng toàn bộ tương lai số hay không. Càng chậm có biện pháp nghiêm túc thì về sau càng khó hơn
Chỉ là công cụ khác nhau thôi; đặc tính con người thúc đẩy kiểu hành vi đó thì luôn tồn tại. Không có cái công tắc nào tự nhiên bật lên khi tài sản vượt qua một ngưỡng nhất định
Ngoài ra tôi cũng không cho rằng doanh nghiệp mắc “nghĩa vụ pháp lý” với ai đó, hay thậm chí có cái gọi là “nghĩa vụ” đó. Ban điều hành muốn đạt mục tiêu bằng những công cụ trong tầm tay, và trên thực tế họ làm như vậy
Đây là chuỗi thảo luận phi lý kiểu Kafka nhất mà tôi từng thấy trên Hacker News
Nếu dữ liệu phân tích được xem là thông tin cá nhân thì Microsoft rõ ràng có dùng dữ liệu phân tích: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
Còn việc Microsoft có đọc tài khoản Gmail, tài liệu Word hay hoạt động xem nội dung khiêu dâm của bạn rồi đưa vào OpenAI hay không thì theo điều khoản là không: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
Tuy vậy, nếu hỏi Microsoft có đang làm những việc mà người ngoài không thể biết nói chung hay không, thì tôi cho là có
Từ lâu tôi đã phản đối chính sách quyền riêng tư như mê cung của Microsoft
Trước đây, vào thời điểm trước khi các trợ lý lập trình “AI” được dùng rộng rãi, tôi từng hỏi trên một diễn đàn khác rằng nếu bật telemetry trong VS Code thì chính sách quyền riêng tư của Microsoft có cho phép họ tải mã của tôi lên và sử dụng nó hay không
Khi đó câu hỏi bị dìm đi cùng phản ứng cho rằng thật vô lý, nhưng không ai chỉ ra được chỗ nào trong điều khoản hay chính sách quyền riêng tư của Microsoft nói rõ ràng và minh bạch rằng kiểu xử lý như vậy bị loại trừ
Giờ đây đã xuất hiện nỗi ám ảnh muốn huấn luyện mô hình machine learning trên mọi bộ dữ liệu lớn có thể, nên sự thận trọng ngày trước có lẽ không còn trông ngớ ngẩn đến vậy nữa
Trừ khi có lợi ích thương mại hoặc pháp lý rõ ràng khi nói “chúng tôi sẽ không làm X”, nếu không thì các tập đoàn lớn sẽ không chủ động tự áp đặt kiểu giới hạn đó lên chính mình
Để tham khảo, toàn văn Thỏa thuận Dịch vụ sắp áp dụng của Microsoft ở đây
https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
Tóm tắt các thay đổi ở đây
https://www.microsoft.com/en-us/servicesagreement/upcoming-u...
Giới hạn được nêu rõ dường như chỉ áp dụng cho quảng cáo nhắm mục tiêu. Kiểu như “chúng tôi không dùng email, chat, cuộc gọi video hoặc thư thoại, tài liệu, ảnh hay các tệp cá nhân khác của bạn để nhắm mục tiêu quảng cáo đến bạn”
Trong phần tóm tắt thay đổi không nhắc đến việc sửa chính sách quyền riêng tư, và bản chính sách quyền riêng tư đó cũng không có vẻ loại trừ việc huấn luyện mô hình AI bằng dữ liệu người dùng
Tôi từng làm trong ngành quảng cáo, và luật liên quan đến thông tin nhận dạng cá nhân khá thú vị. Ở California có CCPA, và theo tôi biết thì nếu yêu cầu xóa thông tin nhận dạng cá nhân của mình qua biểu mẫu, họ phải xóa sau khoảng 90 ngày.
Nhưng nếu một mô hình đã được huấn luyện bằng thông tin nhận dạng cá nhân của cư dân California, rồi có yêu cầu xóa, và 3 tháng sau ai đó hỏi về người đó mà mô hình vẫn thốt ra thông tin nhận dạng cá nhân đã “bị xóa”, thì sẽ ra sao?
Có lẽ cuối cùng chuyện này sẽ do tòa án quyết định, nhưng nếu có ai am hiểu luật California thì tôi muốn biết vì sao đến giờ vẫn chưa có nỗ lực nào nhắm vào chuyện này, dù chỉ để săn tiền dàn xếp
Tôi không biết luật California, nhưng khá nhiều luật bảo vệ quyền riêng tư tương tự cho phép ngoại lệ với dữ liệu tổng hợp ngay cả khi có yêu cầu “xóa”
Nói chung, luật áp dụng với bản ghi dữ liệu thô, chứ không áp dụng với dữ liệu tổng hợp, chỉ số hay mô hình. Tuy vậy, ở đây việc nói tới mô hình là theo tôi nhớ dựa trên một phán quyết cụ thể liên quan đến ngành bảo hiểm hoặc chấm điểm tín dụng.
Mô hình cũng không nhất thiết phải “thốt ra” dữ liệu đã xóa. Nó có thể là bộ phân loại hoặc mô hình hồi quy chứ không phải mô hình sinh, và lý tưởng nhất là ngay từ đầu đã không nên được huấn luyện bằng dữ liệu của tôi.
Điểm quan trọng là về mặt kỹ thuật điều này cũng khó. Giả sử một mô hình được tạo ra với chi phí rất lớn X và thường chỉ tái huấn luyện mỗi 6 tháng một lần. Nhưng nếu yêu cầu xóa cứ liên tục đổ vào, thì việc tái huấn luyện thường xuyên để tuân thủ sẽ quá tốn kém.
Có nghiên cứu về machine unlearning nhằm xử lý việc này hiệu quả hơn, nhưng đến giờ vẫn khá đáng thất vọng
Nếu phần mang tính cá nhân đã biến mất thì tôi không rõ còn cơ sở nào để khiếu nại hay không
Đội ngũ pháp lý của Microsoft làm cách nào để đạt được kỳ tích này? Họ có xây đủ nhiều tầng trừu tượng ngôn ngữ đến mức chỉ những tổ chức đủ lớn, như Microsoft hay bồi thẩm đoàn lớn, mới có thể rút ra ý nghĩa hay không?
Có phải là những câu mồi nhử cài bẫy ở chỗ thoạt nhìn vô hại? Hay là kiểu nói vòng vo mà tuyệt đối không bao giờ đưa ra câu trả lời chính xác?
Nếu một cách sử dụng nào đó không bị loại trừ một cách rõ ràng, thì cứ coi như dữ liệu đó rốt cuộc sẽ được dùng làm dữ liệu huấn luyện miễn là nó còn hữu ích. Nếu không phải bây giờ thì cũng sẽ là lúc nào đó. Điều này đúng với mọi công ty trên Trái Đất đang tích trữ dữ liệu.
Đây nên là giả định mặc định của tất cả mọi người, và nhìn chung sẽ là nhận định đúng trừ khi có luật. Mà ngay cả khi có luật, nó cũng có thể bất lực với dữ liệu cũ vì chuyện lách thẩm quyền tài phán, và dữ liệu mới cũng có khả năng chỉ được bảo vệ rất yếu.
Chào mừng đến với loại dầu mỏ mới
Quyền riêng tư và thông tin nhận dạng cá nhân là hai thứ khác nhau. Ở nhiều khía cạnh, việc sử dụng dữ liệu riêng tư là không thể tránh khỏi.
Gợi ý nhập liệu dùng dữ liệu riêng tư. Vì nó “học” từ mọi người. Câu và đoạn văn có phải là dữ liệu riêng tư không? Công cụ tìm kiếm ghi lại những gì tôi nhập. Có nên xếp truy vấn tìm kiếm là thứ “mang tính riêng tư” không? Tôi cũng có thể sao chép rồi dán bình luận đầu tiên của chuỗi này, vậy cái đó có phải dữ liệu riêng tư không?
Có thể tôi hoàn toàn sai, và có lẽ không nên nhập bất cứ thứ gì lên trang web.
Ngay cả bốn luật sư và ba chuyên gia quyền riêng tư cũng có vẻ không thể đi đến kết luận dữ liệu riêng tư là gì. Big Tech có đưa dữ liệu do con người tạo ra vào các công cụ “AI” không? Có. Các công ty công nghệ nhỏ hơn có làm vậy không? Cũng có.
Tôi sẵn sàng cùng Mozilla cầm chĩa ba, nhưng tôi muốn biết là vì chuyện gì. Chúng ta cần những người nói rõ phải bảo vệ lợi ích của bản thân như thế nào, thay vì chỉ kích động đám đông.
Việc sử dụng dữ liệu, bất kỳ dữ liệu nào, đều chịu sự điều chỉnh của hợp đồng. Nếu đọc các “tài liệu pháp lý” mà bạn đã đồng ý khi dùng Hacker News, sẽ có hẳn một mục nói về cách dùng dữ liệu riêng tư. Vậy có nên giương chĩa ba với HN luôn không, hay chỗ này thì ổn?
Trong số này, cái nào là “huấn luyện AI”?
Một hệ thống phát hiện lạm dụng được huấn luyện bằng hành vi và dữ liệu người dùng để chuyển kẻ lạm dụng cho con người xem xét, hàm xếp hạng khi tìm kiếm web được huấn luyện bằng hành vi của tất cả người dùng, công cụ soạn email gợi ý hoàn thành dựa trên lịch sử nhập liệu của tôi, giao diện chat LLM công khai được huấn luyện bằng email riêng tư của tôi.
“Huấn luyện AI” trong đa số trường hợp gần với chi tiết triển khai hơn là thứ phù hợp để đưa vào chính sách quyền riêng tư. Tôi mong Mozilla nói rõ hơn chính xác họ đang lo ngại hành vi nào
Đúng vậy, các tập đoàn khổng lồ đang làm như thế và sẽ tiếp tục làm thế. Nếu bạn tin rằng có tập đoàn lớn nào đó thực sự nghĩ đến lợi ích tốt nhất của chúng ta và còn có cơ chế quản trị hoàn hảo nữa, thì ha ha, đúng là ha ha thật lớn