Vụ bê bối AI gián điệp của Microsoft: Cần xem xét lại các chuẩn mực về quyền riêng tư

• Microsoft gần đây đã phát hiện các tin tặc được nhà nước hậu thuẫn lợi dụng các công cụ AI tạo sinh của hãng để thực hiện tấn công. Trong cộng đồng bảo mật, đã xuất hiện câu hỏi về việc Microsoft đã biết điều đó bằng cách nào.
• Một số người phản đối việc mô tả hành vi của Microsoft là "gián điệp". Họ cho rằng việc nhà cung cấp dịch vụ đám mây giám sát hoạt động của người dùng là điều hiển nhiên, và gọi đó là hành vi gián điệp thì không công bằng.
• Đây có thể được xem là một ví dụ về kỳ vọng tập thể đang thay đổi đối với quyền riêng tư. Để hiểu điều này, có thể học được điều gì đó từ ngành thủy sản.
• Vào giữa thế kỷ 20, số lượng cá biển bắt đầu suy giảm mạnh do đánh bắt quá mức. Ngành săn cá voi cũng cho thấy xu hướng suy giảm tương tự.
• Daniel Pauly nhận ra rằng các nhà nghiên cứu đang mắc một sai lầm nghiêm trọng khi xác định sản lượng đánh bắt cho phép. Vấn đề là họ không nhận thức được mức độ nghiêm trọng của sự suy giảm quần thể cá.
• Pauly chỉ ra rằng mỗi thế hệ nhà nghiên cứu có một mốc chuẩn (baseline) khác nhau để so sánh các thống kê hiện tại, và mốc chuẩn của mỗi thế hệ lại thấp hơn thế hệ trước. Ông gọi hiện tượng này là "hội chứng đường cơ sở dịch chuyển (shifting baseline syndrome)".
• Hoạt động giám sát trên Internet và sự xâm phạm quyền riêng tư đi kèm cũng đang đi theo cùng một quỹ đạo. Do đặc tính bao trùm của công nghệ hiện đại, việc giám sát trở nên dễ dàng hơn bao giờ hết, và mỗi thế hệ lại quen với trạng thái quyền riêng tư của thời trẻ của mình.
• AI chatbot là ví dụ mới nhất của hiện tượng này. Chatbot tạo ra đầu ra để phản hồi đầu vào của người dùng, nhưng phía sau là một hệ thống phức tạp dựa trên đám mây để theo dõi các đầu vào đó.
• Sự dịch chuyển đường cơ sở là cốt lõi của việc chúng ta đang cùng nhau đánh mất quyền riêng tư. Tòa án Tối cao Mỹ từ lâu đã phán quyết rằng quyền riêng tư của chúng ta phụ thuộc vào kỳ vọng hợp lý về quyền riêng tư. Nhưng kỳ vọng là thứ dễ thay đổi và chịu ảnh hưởng của sự dịch chuyển đường cơ sở.
• Vậy giờ phải làm gì? Các nhà khoa học thủy sản hiện nay đã nhìn vào bức tranh lớn. Họ không còn xem xét các thước đo tương đối như so sánh với 10 năm trước nữa. Thay vào đó, họ nhìn vấn đề một cách tổng thể để xác định một hệ sinh thái biển lành mạnh và sản lượng đánh bắt bền vững nên trông như thế nào.
• Lĩnh vực quyền riêng tư và bảo mật cũng cần cách tiếp cận tương tự. Thay vì so với sự dịch chuyển đường cơ sở, chúng ta cần lùi lại một bước và xem xét một hệ sinh thái công nghệ lành mạnh nên trông như thế nào.

[GN⁺]

Ý kiến trên Hacker News

Tóm tắt bình luận trên Hacker News

• Hiểu hành vi của người tiêu dùng về quyền riêng tư: Người tiêu dùng đưa ra lựa chọn dựa trên những giả định đơn giản hóa trong một thế giới phức tạp. Vấn đề trong nền kinh tế số không phải là tiêu chuẩn của người tiêu dùng mà là sự thay đổi trong tiêu chuẩn quản lý.
• Sự thất bại của bản năng quyền riêng tư: Mọi người chỉ phản ứng nhạy cảm với việc xâm phạm quyền riêng tư của những người họ quen biết trực tiếp. Họ lại thờ ơ khi các tổ chức vô danh thu thập dữ liệu.
• Google và quyền riêng tư: Google từ lâu đã thu thập email, lịch sử tìm kiếm và nhiều dữ liệu khác của chúng ta. Đa số mọi người cho rằng đánh đổi quyền riêng tư để lấy các công cụ tiện lợi là một lựa chọn hợp lý.
• Big Tech và quyền riêng tư: Big Tech thuyết phục mọi người rằng họ mang lại lợi ích, giống như các công ty thuốc lá từng làm. Chúng ta cần đặt con người và quyền riêng tư lên hàng đầu.
• Snowden và Big Tech: Snowden đã phơi bày việc Big Tech cung cấp dữ liệu cho NSA. Các dịch vụ AI như OpenAI cũng không phải ngoại lệ.
• Khó khăn trong việc bảo vệ quyền riêng tư: Khiến mọi người thực sự quan tâm đến các vấn đề quyền riêng tư là điều rất khó. Cần có giáo dục và hỗ trợ.
• Tính minh bạch của Microsoft: Microsoft công khai cho biết các dịch vụ AI của họ đang bị giám sát. Tại EU, việc duy trì log là yêu cầu pháp lý.
• Apple và gián điệp doanh nghiệp: Có cáo buộc cho rằng Apple điều tra thiết bị một cách bất hợp pháp. Đây là vấn đề đặt ra về hoạt động gián điệp doanh nghiệp.
• Vấn đề của Windows: Windows ngày càng trở nên có vấn đề hơn, và các lựa chọn thay thế là có tồn tại.
• Quyền riêng tư và chi phí: Một số người chấp nhận từ bỏ quyền riêng tư để đổi lấy chi phí thấp hơn hoặc thêm tính năng. Các sản phẩm coi trọng quyền riêng tư cũng có thể tồn tại trên thị trường.