Vì sao cần nghĩ về AI và mã hóa đầu cuối cùng nhau
(blog.cryptographyengineering.com)- Khi các trợ lý và tác tử AI tiến sâu vào dữ liệu cá nhân như tin nhắn, ảnh và cuộc gọi, những bảo đảm quyền riêng tư mà mã hóa đầu cuối từng gìn giữ bắt đầu chịu áp lực mới
- Mã hóa đầu cuối ngăn máy chủ nhìn thấy văn bản thuần trong quá trình truyền, nhưng không ngăn việc dữ liệu được máy chủ xử lý AI sử dụng sau khi thiết bị nhận hoặc người dùng chuyển dữ liệu đó đi
- Càng khó chạy các mô hình AI mạnh ngay trên điện thoại, các tính năng như tóm tắt tin nhắn, phát hiện cuộc gọi lừa đảo và hỗ trợ viết văn bản càng dễ phụ thuộc vào xử lý ngoài thiết bị
- Private Cloud Compute của Apple cố giảm rủi ro suy luận trên đám mây bằng phần cứng đáng tin cậy, Secure Boot, ký mã, transparency log và kiến trúc không lưu trạng thái, nhưng đây không phải là bảo đảm mật mã học
- Khi các tác tử AI đa dụng có thể đọc và trả lời dựa trên dữ liệu cá nhân, vấn đề cốt lõi không còn là có chạy cục bộ hay không mà chuyển sang ai có thể truy cập tác tử đó
AI đang mở lại tranh luận về mã hóa đầu cuối
- Bài How to think about end-to-end encryption and AI của các nhà nghiên cứu NYU và Cornell đi thẳng vào các câu hỏi tại điểm giao giữa AI và mã hóa đầu cuối
- Các hệ thống trợ lý AI như scam call protection của Google hay Apple Intelligence đang muốn đi sâu vào toàn bộ điện thoại, đặc biệt là tin nhắn riêng tư
- Tranh luận ở châu Âu về “mandatory content scanning” cho thấy các hệ thống machine learning có thể bị yêu cầu quét gần như mọi tin nhắn riêng tư, từ đó bộc lộ trực diện hơn tác động của AI lên quyền riêng tư
- Dù điểm xuất phát khác nhau, hai xu hướng này hội tụ vào cùng một xung đột
- Các tính năng AI muốn xử lý dữ liệu cá nhân
- Mã hóa đầu cuối muốn ngăn máy chủ nhìn thấy dữ liệu đó
- Việc xử lý AI mạnh có thể cần đến tài nguyên máy chủ
Vấn đề mà mã hóa đầu cuối vốn giải quyết
- Trước năm 2011, nhiều thiết bị kết nối đám mây tải dữ liệu lên dưới dạng văn bản thuần, khiến dữ liệu cá nhân có thể bị lộ cho hacker, trát dân sự, lệnh khám xét của chính phủ hoặc bị nền tảng khai thác cho mục đích kinh doanh
- Nếu không phải người dùng nâng cao dùng các công cụ như PGP hay OTR, người dùng phổ thông rất khó tránh các rủi ro này
- Quanh giai đoạn 2011, các ứng dụng nhắn tin như Signal, Apple iMessage và WhatsApp bắt đầu triển khai mã hóa đầu cuối theo mặc định
- Chúng thay đổi cách quản lý khóa để máy chủ không thể thấy nội dung văn bản thuần của tin nhắn
- Sau đó, các hãng hệ điều hành điện thoại như Google, Samsung và Apple bắt đầu mã hóa dữ liệu lưu cục bộ; Google đưa mã hóa đầu cuối mặc định vào bản sao lưu điện thoại và Apple cũng bắt đầu đi theo
- Điểm chung của các dự án này là dữ liệu đã mã hóa hầu như không cần phải được xử lý trên máy chủ
Lựa chọn giữa xử lý trên máy chủ và trên thiết bị
- Mã hóa đầu cuối che giấu nội dung khỏi máy chủ, nhưng cũng khiến máy chủ khó tính toán trên dữ liệu đó
- Với sao lưu đám mây hay tin nhắn riêng tư, ràng buộc này tương đối chấp nhận được vì dữ liệu chủ yếu chỉ có ý nghĩa với phía client
- Với các tính năng cần xử lý dữ liệu như nhận dạng văn bản trong ảnh, thường có hai lựa chọn
- Gửi văn bản thuần lên máy chủ và mở lại các lỗ hổng mà mã hóa đầu cuối vốn muốn giảm bớt
- Giới hạn vào những xử lý mà thiết bị có thể tự thực hiện
- Lựa chọn thứ hai bị ràng buộc bởi năng lực tính toán, RAM, pin và sự chênh lệch phần cứng của điện thoại
- Ngay cả iPhone cao cấp cũng có thể xử lý ảnh vào ban đêm khi đang sạc để tránh hao pin
- Một số điện thoại flagship giá hơn 1.400 USD và có GPU cùng neural engine tích hợp
- Ngay cả ở Mỹ, người dùng vẫn có thể mua điện thoại Android giá vài trăm USD hoặc rẻ hơn nữa, nên chênh lệch năng lực xử lý là rất lớn
Tính năng AI đang mở rộng việc xử lý dữ liệu cá nhân
- LLM có thể tạo và hiểu văn bản phức tạp của con người, còn các mô hình xử lý hình ảnh cũng cung cấp năng lực mạnh mẽ
- Các công ty điện thoại và nhắn tin coi mô hình AI là nền tảng cho các tính năng tương lai, và nhiều tính năng đã được triển khai
- Các tác tử AI còn đi xa hơn, được hình dung là có thể đọc và trả lời email, tin nhắn văn bản, đặt món ăn, mua sắm, thao tác hồ sơ hẹn hò, đàm phán khoản vay và dự đoán nhu cầu của người dùng
- Để các hệ thống như vậy hoạt động, chúng cần quyền truy cập gần như không giới hạn vào dữ liệu cá nhân cùng năng lực tính toán lớn để xử lý dữ liệu đó
- Nhiều điện thoại không đủ sức chạy các mô hình mạnh, và khi mô hình ngày càng tốt hơn hoặc mang tính độc quyền hơn, nhiều xử lý có khả năng sẽ chuyển sang máy chủ từ xa
Vấn đề bảo đảm và đồng ý trong nhắn tin mã hóa đầu cuối
- Bảo đảm kỹ thuật của nhắn tin mã hóa đầu cuối hiện đại nằm ở việc thiết kế sao cho nội dung tin nhắn dạng văn bản thuần trong quá trình truyền không tồn tại ở nơi nào ngoài thiết bị đầu cuối của người tham gia và những đối tượng mà người tham gia hoặc thiết bị của họ chọn chia sẻ
- Bảo đảm này không quy định việc dữ liệu được dùng thế nào sau khi đã được chuyển đến
- Việc người dùng chụp màn hình, tạo bản sao lưu văn bản thuần, sao chép dán lên Twitter hay giao nộp thiết bị để phục vụ kiện tụng đều nằm ngoài phạm vi của mã hóa đầu cuối
- Cam kết với người dùng từ nhà cung cấp dịch vụ có thể khác với bảo đảm kỹ thuật
- Ví dụ, tin nhắn có thể được chuyển an toàn, nhưng thiết bị vẫn có thể tải nội dung văn bản thuần lên máy chủ khác để tại đó nó trở nên có thể giải mã hoặc truy cập được
- Trong chat nhóm, người tham gia khác có thể bật tính năng tải các tin nhắn văn bản thuần họ nhận được lên dịch vụ
- Cuối cùng, điều then chốt là sự đồng ý đầy đủ và có hiểu biết
- Một số công ty có thể thông tin rõ ràng cho người dùng để xây dựng niềm tin
- Công ty khác có thể chỉ yêu cầu đồng ý với điều khoản dịch vụ khó đọc ở Mỹ, hoặc tạo ra một kiểu banner cookie mới ở EU
- Nếu xử lý AI trở nên hoàn toàn phổ biến, lựa chọn opt-in hoặc opt-out của người dùng có thể bị thu hẹp
Cách tiếp cận của Apple Private Cloud Compute
- Apple dự đoán rằng suy luận machine learning sẽ cần được thuê ngoài cho phần cứng mạnh hơn, và đã thiết kế các máy tính đám mây mà họ cho là đủ đáng tin để giao dữ liệu cá nhân vào
- Private Cloud Compute sử dụng các thiết bị phần cứng đáng tin cậy trong trung tâm dữ liệu của Apple
- Các thiết bị này gần giống những máy tính bị khóa chặt cả về vật lý lẫn logic
- Chúng dùng thiết bị do Apple tự chế tạo, custom silicon và các tính năng phần mềm
- Secure Boot bảo đảm chỉ hệ điều hành được cho phép mới được nạp
- Hệ điều hành dùng ký mã để xác minh rằng chỉ các image phần mềm được cho phép mới được chạy
- Không lưu trạng thái dài hạn
- Mỗi lần kết nối lại cân bằng tải yêu cầu sang một máy chủ ngẫu nhiên khác
- Chứng thực hash của phần mềm ứng dụng đang chạy
- Các image phần mềm phải xuất hiện trong transparency log có thể xác minh để ngăn việc âm thầm thêm vào
- Apple cho biết sẽ công bố các image phần mềm để nhà nghiên cứu bảo mật có thể kiểm tra lỗi, nhưng không phải toàn bộ mã nguồn
- Thiết kế này tập trung vào việc khiến cả kẻ tấn công lẫn nhân viên Apple đều khó trích xuất dữ liệu khỏi thiết bị
- Tuy vậy, cách tiếp cận này đưa ra bảo đảm yếu hơn so với mã hóa
- Nó tập trung hóa nhiều dữ liệu giá trị
- Nó phụ thuộc vào việc Apple triển khai đúng các tính năng bảo mật phần cứng và phần mềm phức tạp, thay vì dựa trên toán học của các thuật toán mật mã
- Nó vẫn được đánh giá là tốt hơn cách xử lý trên các máy chủ mà nhân viên có vẻ có thể đăng nhập và truy cập như ở OpenAI
FHE và các giới hạn hiện tại
- Với mã hóa đồng hình hoàn toàn (FHE), có thể tính toán trên dữ liệu cá nhân mà dữ liệu vẫn ở trạng thái mã hóa
- Về mặt lý thuyết điều này là khả thi, nhưng hiện tại khó có tính thực tiễn
- Các phương pháp FHE tốt hiện nay chủ yếu phù hợp cho việc đánh giá các mô hình machine learning rất nhỏ, mà những mô hình đó lại ở mức có thể chạy được ngay cả trên thiết bị client yếu
- Các phương pháp và phần cứng sẽ còn cải thiện, nhưng rào cản này được dự đoán sẽ tồn tại lâu dài
Tác tử AI đang làm việc cho ai
- Dữ liệu dùng để huấn luyện và fine-tuning các mô hình AI trong tương lai cũng sẽ tạo ra vấn đề quyền riêng tư lớn, nhưng câu hỏi lớn hơn là các tác tử đa dụng thực sự đang làm việc cho ai
- Anh và EU đã thảo luận các đạo luật bắt buộc “quét” tự động đối với tin nhắn mã hóa cá nhân
- Đề xuất của EU tập trung vào phát hiện CSAM hiện có và mới
- Ở một số giai đoạn, nó còn bao gồm phát hiện hội thoại giọng nói và văn bản bị xem là “grooming behavior”
- Đề xuất của Anh có phạm vi rộng hơn, bao gồm lời nói thù ghét, nội dung khủng bố, lừa đảo và nhiều nội dung bất hợp pháp khác
- Một bản sửa đổi thậm chí còn bao gồm cả “images of immigrants crossing the Channel in small boats”
- Việc quét CSAM đã biết không nhất thiết cần AI/ML, nhưng phát hiện CSAM mới, grooming behavior và lời nói thù ghét đòi hỏi suy luận machine learning mạnh trên dữ liệu cá nhân
- Đặc biệt, phát hiện hội thoại giọng nói và văn bản không chỉ cần chuyển giọng nói thành văn bản mà còn cần khả năng hiểu chủ đề của hội thoại con người mà không tạo quá nhiều cảnh báo sai
- Những đề xuất này vẫn chưa được triển khai, một phần cũng vì rất khó xây dựng các hệ thống ML có thể xử lý dữ liệu riêng một cách an toàn và vì các nền tảng đã chống lại việc xây dựng chúng
Áp lực mà các tác tử cá nhân đa dụng có thể tạo ra
- Nếu người dùng tự nguyện tạo và triển khai các tác tử AI đa dụng, các tác tử này có thể trở thành nguồn lực thực hiện nhiều tác vụ quét mà cơ quan thực thi pháp luật từng yêu cầu
- Việc ngăn chính phủ yêu cầu quyền truy cập vào nguồn lực như vậy sẽ vẫn là một bài toán khó
- Cơ quan thực thi pháp luật có thể đặt cho tác tử những câu hỏi tinh vi về hành vi và dữ liệu của người dùng
- “Người dùng này có CSAM tiềm năng không”
- “Họ có viết nội dung trong ghi chú cá nhân có thể bị xem là lời nói thù ghét không”
- “Họ có khả năng đang gian lận thuế không”
- Cách làm này có thể được trình bày như một hình thức “bảo toàn quyền riêng tư” vì cảnh sát là con người không trực tiếp lục lọi tài liệu và chỉ nhận câu trả lời khi người dùng có lẽ đã làm điều bất hợp pháp
- Một khi các tác tử đa dụng đủ mạnh đã được triển khai trên điện thoại, vấn đề quyết định sẽ không còn là mô hình chạy cục bộ hay trên phần cứng đám mây đáng tin, mà là ai có thể trò chuyện với tác tử đó
1 bình luận
Ý kiến trên Hacker News
Khi phát hiện tự động ngày càng tăng, ngân sách phân bổ cho người xử lý từng vụ việc riêng lẻ sẽ giảm, và các quản trị viên sẽ phụ thuộc hơn vào phán quyết tự động.
Kết quả là khi có cảnh báo sai, việc liên hệ với con người để giải quyết trở nên khó khăn hơn, dẫn đến sự bức xúc lớn. Với dịch vụ doanh nghiệp thì chỉ gây khó chịu, nhưng nếu dùng trong thực thi pháp luật thì có thể hủy hoại cả đời người.
Trước đây tôi từng bị Amazon gắn cờ là đánh giá bất hợp pháp và đã cố giải thích với người thật trong nhiều tháng; đến giờ khoảng mỗi năm một lần tôi vẫn nêu lại vấn đề nhưng chưa được giải quyết. Nếu chuyện như vậy xảy ra trong các vụ trọng tội và tình trạng tồn đọng ở tòa kéo dài nhiều năm thì sẽ rất tai hại.
Phát hiện tự động có thể hoạt động và trên thực tế là không thể tránh khỏi, nhưng phải phân bổ đủ nhân lực để xử lý với giả định rằng cảnh báo sai chắc chắn sẽ xảy ra. Hiện nay, cứ xây xong hệ thống phát hiện là người ta sa thải nhân sự phụ trách, giả định rằng hệ thống thay thế con người; trong khi thực tế nó phải là công cụ hỗ trợ và giúp con người tập trung hơn.
Những người có quyền ra quyết định không trực tiếp xử lý các vụ việc thực tế nên họ không tự trải nghiệm vấn đề. Với họ, câu chuyện sẽ là “đã có thể tiết kiệm 1 triệu đô la thì tại sao không tiết kiệm 2 triệu đô la”, và tôi cho rằng khi các mô hình AI lớn khiến việc phát hiện tự động dễ hơn, vấn đề này sẽ tệ đi nhiều trong vài năm tới.
Ở Nga từng có một nhà khoa học trở thành nghi phạm trong một vụ án mạng 20 năm trước chỉ vì khớp nhận dạng khuôn mặt 70% và bị một tội phạm khai gian là đồng phạm. https://lenta.ru/articles/2024/04/03/scientist/
May mắn là hồ sơ lưu trữ của viện nghiên cứu cho thấy khi đó ông đang tham gia một chuyến khảo sát cách xa Moskva, trở thành chứng cứ ngoại phạm; dù vậy ông vẫn bị giam 10 tháng trong quá trình “điều tra”. Cuối cùng ông được thả, nhưng tôi lo rằng các điều tra viên cảnh sát đã dùng kết quả nhận dạng khuôn mặt rất yếu để nâng thành tích vẫn còn trong ngành.
Nếu mở rộng ra một thế giới nơi mọi ngóc ngách của đời sống bị kiểm soát bởi các nền tảng độc quyền thậm chí không có hỗ trợ khách hàng cơ bản, có lẽ mọi chuyện sẽ còn tệ hơn rất nhiều trước khi khá lên.
Có thể xem ở trang thứ ba của PDF, trang hiển thị là 84: https://nob.cs.ucdavis.edu/classes/ecs153-2021-02/handouts/c...
Thật đáng kinh ngạc là 60 năm trước đã có người dự đoán chính xác tình huống này, vậy mà câu chuyện cảnh báo đó lại không hề được xem xét nghiêm túc.
Không cần suy đoán về OpenAI. OpenAI khá minh bạch khi nói rằng họ lưu giữ dữ liệu 30 ngày và nhân viên cũng như nhà thầu bên thứ ba có thể xem xét.
https://platform.openai.com/docs/models/how-we-use-your-data
“Để hỗ trợ xác định hành vi lạm dụng, dữ liệu API có thể được lưu giữ tối đa 30 ngày, sau đó sẽ bị xóa (trừ khi pháp luật yêu cầu khác).”
https://openai.com/enterprise-privacy/
Tài liệu nói rằng quyền truy cập vào dữ liệu kinh doanh API được giới hạn cho các nhân viên được phê duyệt khi cần thiết để hỗ trợ kỹ thuật, điều tra lạm dụng nền tảng và tuân thủ pháp luật, cùng các nhà thầu chuyên trách bên thứ ba có nghĩa vụ bảo mật và an ninh, chỉ thực hiện việc rà soát lạm dụng/sử dụng sai mục đích.
Bạn đang literalmente “trò chuyện” với máy chủ của một công ty đã tạo ra dòng sản phẩm bằng cách dùng các sản phẩm nghề nghiệp và cá nhân của người khác, bất kể họ có đồng ý hay nhận thức được hay không. Không hẳn là “xin tha thứ dễ hơn xin phép”, mà gần hơn với việc hoàn toàn không hỏi, nếu bị hỏi thì lấp liếm, và khi bị phát hiện thì nói “các anh/chị cũng đâu có cách nào biết chúng tôi đang xem, nhưng chúng tôi không giấu nên coi như đã ngầm đồng ý”.
Thành thật mà nói, ngay cả mức độ OpenAI cam kết trong chính sách quyền riêng tư cũng đã đáng ngạc nhiên. Nhìn vào các chiến thuật mồi nhử đáng ngờ như âm thầm thay đổi mô hình hoặc giảm lượng tính toán của khách hàng trả phí sau chu kỳ quảng bá ban đầu kiểu “ồ, tuyệt vời quá”, tôi không nghĩ những chính sách đó sẽ tồn tại lâu khi công ty có vị thế ổn định hơn.
Hơn nữa, nếu có cách trích xuất dữ liệu huấn luyện từ mô hình, họ cũng có thể nói “đó là dữ liệu khác được lấy từ mô hình nên chính sách cũ không áp dụng”. Nếu bị thị trường bỏ lại phía sau, thật khó tin rằng Altman sẽ không bán những thứ đó trong chớp mắt để tài trợ cho một sản phẩm đặt cược lớn. Chưa nói đến các chatbot kiểu ứng dụng người yêu đáng ngờ.
Quyền riêng tư dĩ nhiên phải tồn tại, nhưng điều đáng ngạc nhiên là có người giả định nó sẽ tồn tại. Dù tự hỏi có phải mình quá yếm thế không, dạo này kết luận cuối cùng thường là mình vẫn chưa đủ yếm thế.
Mối đe dọa thật sự sẽ xuất hiện khi AI không chỉ tăng tốc công việc của cá nhân mà còn được áp dụng vào kiểm soát tổ chức
Ai cũng biết giới hạn của nhà quản lý, các tầng quản lý, chỉ số và OKR, nên sức cám dỗ là rất lớn. Không khó để tưởng tượng một CEO nghĩ rằng nên đưa mọi trao đổi giữa nhân viên vào AI và cho phép truy vấn. Trớ trêu thay, nếu tất cả đều làm việc từ xa thì việc ép buộc còn dễ hơn
Cũng có khả năng CEO và ban lãnh đạo cấp cao sẽ nắm rõ hơn những gì thực sự đang diễn ra, nhờ đó tổ chức trở nên hiệu quả hơn. Nhưng niềm tin vốn đã mong manh rằng những người nắm quyền nhìn nhân viên bình thường như con người thật sự sẽ còn giảm đi
Và vì tầng lớp lãnh đạo sẽ cho rằng không có lý do gì để không dùng các công cụ vận hành công ty vào việc vận hành đất nước, cách làm này chắc chắn sẽ rò rỉ ra ngoài các tổ chức tư nhân
Những người ủng hộ giám sát đại trà giờ đây nói rằng con người không còn cần trực tiếp nghe các cuộc gọi nữa. Nhưng mối nguy thật sự chưa bao giờ là một người mặc bộ vest xám xịt nào đó chép lại cuộc trò chuyện từ băng cuộn. Vấn đề luôn là người có quyền lực yêu cầu hồ sơ của một người gây khó chịu cho họ, rồi soi vào đó với mục đích khiến người ấy không bao giờ còn có thể gây khó chịu cho họ nữa
Lý do hậu quả đầy đủ của giám sát đại trà vẫn chưa xuất hiện là vì trước đây chưa có phương tiện xử lý lượng dữ liệu tạm thời phi cấu trúc lớn đến vậy. Giờ thì có rồi
Khi cần discovery trong tranh chấp pháp lý, phần mềm e-discovery có thể kéo mọi giao tiếp số mà nó truy cập được vào AI, và trong số đó thậm chí còn có thể thực hiện phân tích cảm xúc. Việc áp dụng AI tạo sinh vào công việc pháp lý hiện là chủ đề nóng trong giới luật
Hướng đi phía trước có cảm giác giống như XKEYSCORE dùng steroid, nên với câu hỏi “liệu nó có hoạt động vì chúng ta không”, tôi nghiêng về câu trả lời là không
Tôi muốn nhìn nhận tích cực và lạc quan, nhưng nhìn vào con đường chúng ta đã đi qua và hành vi của những người phụ trách các hệ thống này — chính xác hơn là ban điều hành chứ không phải các nhà nghiên cứu hay kỹ sư — hy vọng về một tương lai trung lập và ưu tiên quyền riêng tư có vẻ khá hạn chế
Họ mặc vest, nhưng phần lớn có nền tảng quân đội, có ý thức nghĩa vụ bảo vệ Hoa Kỳ trước các mối đe dọa trong và ngoài nước, và về mặt lịch sử, tôi cho rằng họ không lạm dụng quyền hạn quá mức dưới bất kỳ chính quyền nào. XKEYSCORE cũng không phải là hack con người, mà là thu thập metadata đại trà và lập hồ sơ, được thực hiện trong khuôn khổ pháp luật. Sự chỉ trích cũng nên nhắm tới các công ty đã không cung cấp công cụ bảo vệ quyền riêng tư, vì bất kỳ chính phủ lớn nào cũng có thể xây dựng hệ thống tương tự
Ngược lại, sau năm 2016, phe Cộng hòa phản giới tinh hoa từng chỉ trích Big Tech rốt cuộc lại trở thành nhóm người hâm mộ thân giới tinh hoa nhất, trao cho Elmo một văn phòng ở Nhà Trắng, còn Zucc thì quỳ gối để tránh bị truy tố
Tôi cho rằng tốt hơn nên để những người thông minh làm việc trong bộ máy quốc phòng Hoa Kỳ vì ý thức nghĩa vụ, dù họ có thể nhận được nhiều hơn rất nhiều ở các công ty tư nhân, phụ trách các hệ thống mới kiểu này
Các công ty gần như đã dùng hết dữ liệu Internet để huấn luyện AI, nên họ sẽ lấy agent làm cớ để tìm cách truy cập dữ liệu thời gian thực của cá nhân. Như mọi khi, mô hình kinh doanh là “bạn chính là sản phẩm”
Có vẻ Apple gần đây đã thay đổi lập trường. Giờ họ nói rằng “mã nguồn của một số thành phần cốt lõi bảo mật PCC nhất định được cung cấp theo giấy phép sử dụng hạn chế”. Tất nhiên, nếu toàn bộ là mã nguồn mở thì sẽ tốt hơn
https://github.com/apple/security-pcc/
Có vẻ Apple đang đưa ra tuyên bố lớn hơn thế. Họ tuyên bố rằng 1) không lưu giữ dữ liệu người dùng và chỉ xử lý trong quá trình suy luận, 2) không có quyền truy cập runtime đặc quyền nên ngay cả kỹ sư hỗ trợ cũng không thể xem dữ liệu người dùng, và 3) cung cấp binary cùng một phần mã nguồn để các nhà nghiên cứu bảo mật có thể xác minh 1) và 2)
Có thể xem năm yêu cầu của Apple PCC tại đây: https://security.apple.com/documentation/private-cloud-compu...
Tôi không liên quan gì đến Apple. Tôi đã đọc hướng dẫn bảo mật PCC để xem nếu xây dựng một giải pháp tương đương trong mã nguồn mở thì sẽ trông như thế nào. Nếu quan tâm đến chủ đề này, vui lòng liên hệ ozgun @ ubicloud . com
Câu hỏi đúng là “AI agent thực sự làm việc cho ai”. Vài tuần trước tôi cũng đã nói đúng điểm này, và khái niệm pháp lý principal và agent được áp dụng ở đây
Một thực tế trong đó mọi nội dung đều đi qua AI đám mây để kiểm tra “tội tư tưởng” đang đến gần. Các phạm trù hiện được đề xuất gồm tài liệu lạm dụng tình dục trẻ em, đe dọa nhân vật quan trọng, đe dọa chính phủ, “grooming” trẻ vị thành niên, thảo luận về ma túy, tình dục, súng, hoạt động đồng tính, tổ chức biểu tình hoặc công đoàn, v.v.
Đặc biệt, tài liệu lạm dụng tình dục trẻ em tại Mỹ đã trở thành một phạm trù mở rộng bao gồm cả hình ảnh do AI tạo ra, và có thể sớm mở rộng sang cả anime Nhật Bản. Đe dọa nhân vật quan trọng tại Mỹ có thể được mở rộng để bao gồm cả những điều trước đây từng được xem là phát biểu chính trị
Đe dọa chính phủ đã là bất hợp pháp ở nhiều quốc gia. Cần nhớ rằng Trump thích gán nhãn “phản quốc” cho mọi người ngay cả trong những việc không liên quan đến việc phát động chiến tranh chống lại Hoa Kỳ
“Grooming” cực kỳ mơ hồ, có thể bao trùm hầu hết các tương tác; còn thảo luận về ma túy, tình dục, súng và hoạt động đồng tính bị cấm theo nhiều cách khác nhau ở nhiều quốc gia. Tổ chức biểu tình hoặc công đoàn bị cấm ở Trung Quốc và đã là đối tượng bị tìm kiếm
Không thể né kiểm duyệt bằng cách dùng lối nói vòng hay tiếng lóng. Các mô hình ngôn ngữ lớn xử lý được cả những thứ đó. Hãy thử đưa tiếng Anh của người da đen hoặc leetspeak vào và yêu cầu dịch sang tiếng Anh chuẩn, nó sẽ dịch được. Mô hình đó có lẽ đã thấy những phương ngữ ấy nhiều hơn hầu hết mọi người
“Nếu bạn muốn hình dung tương lai, hãy tưởng tượng một chiếc ủng giẫm lên khuôn mặt con người — mãi mãi” — Orwell
https://www.orwell.org/dictionary/
Điểm cốt lõi đáng được nhắc lại
Nó có thể bao gồm cả trạng thái họ mong muốn kiểu như “phụ nữ mặc quần là cải trang giới tính, và nếu làm vậy quanh trẻ em thì là trọng tội”
Nhận ra đáng buồn nhất là khối dữ liệu khổng lồ từng được đưa lên đám mây với suy nghĩ rằng ngay cả hoạt động phạm tội cũng sẽ không bị quét, giờ đã trở thành con đường để cảnh sát tư tưởng tìm đến chỉ vì những ý kiến bất đồng đơn thuần
Chủ sở hữu cỗ máy đó là người khác, vì vậy lợi ích của họ—dù là thương mại hay ý thức hệ—luôn được ưu tiên
Mong rằng chuyện đó không xảy ra, nhưng nếu xảy ra thì cũng không bất ngờ. Dữ liệu cũ có thể trở thành chất thải độc hại
May mắn là dữ liệu được lưu trên thiết bị cục bộ và được mã hóa thì các công cụ “AI” dựa trên đám mây không thể truy cập
Vấn đề là người dùng thông thường cứ vô thức bấm “Có/Chấp nhận/Tiếp tục/Đồng ý” trong các hộp thoại GUI, và đồng ý với các điều khoản bao gồm cả việc giải mã dữ liệu rồi gửi tới một dịch vụ “đám mây” nào đó
Trong tương lai, có vẻ các công cụ “AI” sẽ ngày càng được dùng để trói buộc mọi người vĩnh viễn vào các dịch vụ thuê bao hằng tháng như iCloud, Office365 cá nhân của Microsoft, Google Workspace
Bạn sẽ phải trả 15 đô la mỗi tháng mãi mãi, và vì lượng dữ liệu cùng mức độ phụ thuộc vào nhà cung cấp đám mây, sẽ không còn cách thực tế nào để ngừng thanh toán mà không gây xáo trộn lớn cho cuộc sống
Green đã chỉ ra một điểm quan trọng. Bảo đảm kỹ thuật khác với lời hứa với người dùng, và hệ thống nhắn tin mã hóa đầu cuối chỉ chuyển dữ liệu một cách an toàn, chứ không quyết định điều gì xảy ra sau đó
Nhưng ngay sau đó dường như ông lại quên mất điểm ấy khi nói về PCC như thể nó không chỉ là một bảo đảm kỹ thuật khác. PCC chỉ làm tăng niềm tin rằng phần mềm chạy trên máy chủ là phần mềm Apple dự định chạy
Nó không bảo đảm dữ liệu của tôi sau đó sẽ được chuyển đi đâu, hay Apple sẽ chỉ dùng nó cho những mục đích mà tôi có thể chấp nhận. PCC khiến Apple ít dễ bị hack hơn, nhưng không khiến họ minh bạch hơn hay có trách nhiệm hơn
Ngược lại, nếu xét rằng một số hacker đôi khi hack với mục đích có ích cho xã hội, chẳng hạn phơi bày lạm dụng của doanh nghiệp, thì việc tăng cường bảo mật cũng có thể hoạt động như một tấm khiên giúp né tránh trách nhiệm. Tất nhiên điều đó không có nghĩa là nên loại bỏ bảo mật để có được minh bạch
Vấn đề cốt lõi chưa được giải quyết ở đây là tính minh bạch, hơn là bảo mật. Tình trạng thảm hại của bảo mật cũng phần lớn được cho là đã có thể xảy ra vì thiếu minh bạch
Nếu muốn AI phục vụ xã hội, ta phải đảo ngược sự mất cân bằng thông tin cực đoan, nơi đời sống cá nhân bị phơi bày tường tận trước nhà cung cấp dịch vụ, trong khi nhà cung cấp dịch vụ vẫn là một hộp đen hoàn toàn đối với người dùng
Nếu muốn doanh nghiệp hành xử tốt, không thể để họ vận hành trong bóng tối. Nếu muốn công nghệ có đạo đức, không thể để nó hoạt động trong bóng tối
Câu hỏi thú vị ở cuối bài có ý nghĩa quan trọng về mặt chính sách
Dù lựa chọn kỹ thuật nào được đưa ra liên quan đến bảo vệ quyền riêng tư, sau khi một tác nhân đa năng đủ mạnh được triển khai trên điện thoại, câu hỏi còn lại là ai có quyền nói chuyện với tác nhân đó. Chỉ người dùng thôi, hay lợi ích của chính phủ trong giám sát công dân sẽ được đặt cao hơn quyền riêng tư cá nhân
Về giả định, có thể xảy ra tình huống chính phủ dùng luật để bắt buộc phải có quyền truy cập vào tác nhân. Bởi vì chúng ta và các doanh nghiệp tồn tại trong các khu vực tài phán có thể thông qua những đạo luật tùy ý
Nhưng về mặt kỹ thuật, chẳng phải lẽ ra có thể chạy tác nhân cục bộ trên một hệ thống được mã hóa toàn bộ ổ đĩa, và không cho bất kỳ ai không có quyền truy cập hệ thống được nói chuyện với nó sao. Nếu vậy, ở cấp độ kỹ thuật, chuyện này có vẻ không khác trước đây là mấy
Từ trước đến nay vốn đã có thể chạy hàng loạt biểu thức chính quy kiểu thập niên 1980 để tìm xem máy tính của ai đó có những thứ như truyền đơn cộng sản hay không
Việc chính phủ có nên được phép yêu cầu truy cập vào máy tính của tôi hay không luôn là một câu hỏi đã tồn tại. Chỉ cần nhớ rằng nếu họ yêu cầu truy cập vào tác nhân AI chạy trên máy tính của tôi, thì trên thực tế điều đó tương đương với việc yêu cầu một bản ghi mất dữ liệu của toàn bộ ổ cứng của tôi