- Gần đây tôi có dịp đọc bài báo "How to think about end-to-end encryption and AI" do các nhà nghiên cứu từ NYU và Cornell công bố. Bài báo này đề cập đến những câu hỏi quan trọng về AI và mã hóa đầu cuối; dù tôi không đồng ý với một số kết luận, đây vẫn là một chủ đề rất quan trọng.
Mã hóa đầu cuối là gì và nó liên quan gì đến AI?
- Trong 10 năm qua, câu chuyện quan trọng nhất liên quan đến quyền riêng tư là sự trỗi dậy của các nền tảng liên lạc được mã hóa đầu cuối. Trước năm 2011, hầu hết thiết bị kết nối đám mây đều tải dữ liệu lên dưới dạng văn bản thuần.
- Mã hóa đầu cuối là công nghệ khiến máy chủ không thể nhìn thấy nội dung văn bản thuần của tin nhắn. Tuy nhiên, công nghệ này cũng có thể khiến máy chủ khó xử lý dữ liệu hơn.
- Sự phát triển của AI đang làm tăng khả năng nhiều tác vụ xử lý dữ liệu sẽ được offload lên máy chủ từ xa. Điều này có thể làm phát sinh các vấn đề về quyền riêng tư.
Tác động của AI đến nhắn tin mã hóa đầu cuối
- Các hệ thống mã hóa đầu cuối được thiết kế để nội dung tin nhắn không thể bị truy cập trong quá trình truyền bởi bất kỳ ai ngoài thiết bị của những người tham gia. Tuy nhiên, điều đó không đảm bảo dữ liệu sẽ được người dùng xử lý như thế nào.
- Cách AI xử lý dữ liệu có thể làm nảy sinh những vấn đề phức tạp liên quan đến sự đồng ý của người dùng. Một số công ty có thể hướng dẫn người dùng tốt, nhưng cũng sẽ có những công ty không làm được như vậy.
Phần cứng đáng tin cậy và "Private Cloud Compute" của Apple
- Apple đã giới thiệu một cách tiếp cận mang tên "Private Cloud Compute" để giải quyết vấn đề quyền riêng tư của AI. Đây là phương pháp bảo vệ dữ liệu bằng cách sử dụng phần cứng đáng tin cậy.
- Hệ thống này khiến cả kẻ tấn công lẫn nhân viên Apple đều khó làm rò rỉ dữ liệu hơn. Tuy vậy, nó vẫn mang lại các đảm bảo bảo mật yếu hơn so với mã hóa.
AI agent đang làm việc cho ai?
- Cách các AI agent xử lý dữ liệu người dùng có thể mở ra khả năng chính phủ yêu cầu quyền truy cập. Điều này đặt ra những câu hỏi quan trọng liên quan đến quyền riêng tư.
- Các lựa chọn kỹ thuật có thể không đủ để bảo đảm quyền riêng tư, và cũng thiếu sự chắc chắn rằng xã hội sẽ đưa ra những lựa chọn chính trị đúng đắn.
1 bình luận
Ý kiến Hacker News
Khi các hệ thống phát hiện tự động gia tăng, số nhân sự xử lý từng trường hợp riêng lẻ giảm đi và người quản lý ngày càng phụ thuộc nhiều hơn vào phát hiện tự động. Điều này có thể gây ra sự thất vọng rất lớn vì khi xuất hiện kết quả dương tính giả, việc giải quyết vấn đề trở nên khó khăn. Đặc biệt nếu được dùng trong thực thi pháp luật, nó có thể gây hậu quả chí mạng cho cuộc đời của một cá nhân
Ví dụ, có người từng bị Amazon gắn nhầm cờ là đánh giá bất hợp pháp và đã cố liên hệ với con người để giải quyết nhưng thất bại. Nếu tình huống như vậy xảy ra với một vấn đề tội phạm nghiêm trọng, nó có thể hủy hoại cuộc đời một người
Hệ thống phát hiện tự động không nên thay thế con người mà nên bổ trợ để có thể làm được nhiều việc hơn với ít nhân sự hơn. Tuy nhiên hiện nay thiếu động lực khuyến khích, và những người ra quyết định không trực tiếp xử lý các trường hợp thực tế nên không nhận ra vấn đề
Mối đe dọa thực sự có thể xuất hiện khi AI mở rộng từ việc tăng tốc công việc cá nhân thành công cụ phục vụ kiểm soát của tổ chức. Điều này có thể làm tổ chức hiệu quả hơn, nhưng cũng có thể làm suy yếu niềm tin rằng nhân viên là những con người thực sự
Rủi ro thực sự của giám sát đại trà là thu thập thông tin về những người gây bất tiện để khiến họ không còn gây bất tiện nữa. Mọi hệ quả của giám sát đại trà vẫn chưa bộc lộ hết
OpenAI minh bạch cho biết dữ liệu được lưu giữ trong 30 ngày và nhân viên cùng các nhà thầu bên thứ ba có thể xem xét dữ liệu đó
Những câu hỏi khó đang được đặt ra về việc các hệ thống AI có thực sự làm việc vì chúng ta hay không. Xu hướng hiện tại khiến hy vọng về một tương lai trung lập và ưu tiên quyền riêng tư trở nên khá hạn chế
Apple thông báo sẽ công bố image phần mềm để các nhà nghiên cứu bảo mật có thể xác minh lỗi, nhưng không công bố mã nguồn. Apple khẳng định họ không lưu giữ dữ liệu người dùng và các kỹ sư hỗ trợ cũng không thể xem dữ liệu người dùng
Vấn đề AI làm việc cho ai cho thấy các công ty ad tech rất có thể sẽ khiến AI hoạt động trái với lợi ích của người dùng. Điều này xuất phát từ kỳ vọng về các dịch vụ "miễn phí" được hỗ trợ bằng quảng cáo
Khái niệm pháp lý về việc AI agent thực sự làm việc cho ai là rất quan trọng. Nội dung hiện được đề xuất bao gồm giám sát đối với nhiều loại mối đe dọa khác nhau
Hệ quả của giám sát đại trà là dữ liệu được lưu trên cloud trở nên có thể bị quét, làm tăng nguy cơ một người bị giám sát chỉ vì bày tỏ ý kiến phản đối đơn thuần
Bảo đảm về mặt kỹ thuật khác với cam kết dành cho người dùng. PCC của Apple có cải thiện tính bảo mật, nhưng không bảo đảm tính minh bạch hay trách nhiệm giải trình. Minh bạch là vấn đề lớn hơn cả bảo mật
Để AI phục vụ xã hội, cần giải quyết sự bất cân xứng thông tin. Nếu muốn doanh nghiệp hành xử đúng đắn, cần buộc họ vận hành minh bạch
Lựa chọn kỹ thuật có thể không giải quyết được vấn đề quyền riêng tư. Điều quan trọng là ai sẽ được cấp quyền truy cập vào AI agent. Về mặt kỹ thuật, có thể chạy agent cục bộ và chặn việc trò chuyện với những người không thể truy cập vào hệ thống