- Copilot+ Recall: một tính năng mới của Microsoft Windows 11, liên tục chụp màn hình PC của người dùng và biến toàn bộ hoạt động thành một cơ sở dữ liệu có thể tìm kiếm được.
- Cho phép người dùng dễ dàng tìm kiếm mọi thứ họ đã xem trước đó.
- Phần lớn người dùng phản ứng tiêu cực với tính năng này, do lo ngại về quyền riêng tư và khả năng xâm phạm đời sống cá nhân của người dùng.
Người dùng tiềm năng của Copilot+ Recall
- Với các quản lý công ty phải xử lý quá nhiều việc và thiếu thời gian, khả năng lập tức tìm lại mình đã làm gì về một chủ đề cụ thể cách đây một tháng có thể hữu ích.
- Tuy nhiên, đó chỉ là một phần rất nhỏ trong tập người dùng Windows.
- Phần lớn người dùng Windows muốn chơi game, xem phim khiêu dâm và sống cuộc đời của một con người với những sai lầm.
- Ý nghĩ rằng người khác có thể truy cập thiết bị của mình và xem những ký ức riêng tư được lưu lại bằng hình ảnh là điều khiến nhiều người sợ hãi ở mức rất sâu sắc.
Sai lầm của Microsoft
- Microsoft đang tự gây hại cho chính mình nhân danh AI, theo những cách thực sự gây tổn hại cho khách hàng.
- Điều này có thể thiêu rụi toàn bộ thương hiệu Copilot.
- Bài viết chỉ ra rằng tính năng này về cơ bản đã phá vỡ cam kết bảo mật của Windows.
[ Hỏi & đáp về các vấn đề bảo mật của Copilot+ Recall ]
Q. Dữ liệu không phải được xử lý hoàn toàn cục bộ trên laptop sao?
- Đúng vậy. Đây là một quyết định thông minh khi để mã như Azure AI được xử lý ở edge.
Q. Vậy hacker và malware sẽ không thể truy cập phải không?
- Không, họ vẫn có thể truy cập.
Q. Nhưng dữ liệu đã được mã hóa mà?
- Khi bạn đăng nhập vào PC và chạy phần mềm, dữ liệu sẽ được giải mã cho người dùng.
- Mã hóa khi lưu trữ chỉ hữu ích khi ai đó đánh cắp chiếc laptop về mặt vật lý.
- Những thứ như Trojan InfoStealer đã là một vấn đề lớn hơn 10 năm qua, và giờ có thể dễ dàng được sửa đổi để hỗ trợ Recall.
Q. Nhưng Microsoft nói chỉ người dùng mới có thể truy cập dữ liệu?
- Điều đó không đúng. Có thể chứng minh rằng tài khoản người dùng khác trên cùng thiết bị cũng có thể truy cập cơ sở dữ liệu.
Q. Vậy nó hoạt động như thế nào?
- Ảnh chụp màn hình được chụp vài giây một lần.
- Chúng được OCR tự động bởi Azure AI rồi ghi vào cơ sở dữ liệu SQLite trong thư mục người dùng.
- Tệp cơ sở dữ liệu này lưu bằng văn bản thuần toàn bộ lịch sử mọi thứ người dùng đã xem trên PC.
Q. Cơ sở dữ liệu trông như thế nào?
- Microsoft đã nói qua các cơ quan báo chí rằng hacker không thể từ xa rò rỉ hoạt động Copilot+ Recall.
- Nhưng trên thực tế, đó là một cơ sở dữ liệu văn bản thuần chứa mọi thứ đã xem trên PC. Có thể rất dễ dàng tự động hóa việc lấy cắp dữ liệu này.
Q. Làm sao lấy được tệp cơ sở dữ liệu?
- Đó là các tệp nằm trong thư mục CoreAIPlatform mới trong AppData.
Q. Nhưng nó được mã hóa rất mạnh nên không ai truy cập được đúng không?!
- Có thể thấy điều này trong video hai kỹ sư Microsoft truy cập thư mục cơ sở dữ liệu Recall và bẻ khóa cơ sở dữ liệu SQLite.
- Thậm chí không cần quyền hệ thống.
Q. Nhưng người dùng bình thường đâu có chạy bằng quyền quản trị!
- Theo trang giới thiệu Recall trên chính website Microsoft thì đúng là như vậy.
- Thực tế là bạn cũng không cần là quản trị viên để đọc cơ sở dữ liệu.
Q. Nhưng trong video đó có hiện prompt UAC, chẳng phải đó là ranh giới bảo mật sao?
- Theo chính website Microsoft và MSRC, UAC không phải là một ranh giới bảo mật.
Q. Vậy bảo mật ở đây nằm ở đâu?
- Trong thế giới thực, có những khoảng trống lớn đến mức có thể lái cả máy bay qua, nên nó không hoạt động đúng nghĩa.
Q. Những thứ như thông tin tài chính có bị tự động chụp màn hình và OCR không?
- Không.
- Theo tài liệu, Recall không chỉnh sửa nội dung.
- Nó không che giấu mật khẩu hay số tài khoản ngân hàng.
- Trừ khi trang web đó tuân thủ các giao thức Internet tiêu chuẩn (chẳng hạn che mật khẩu bằng ký tự
*).
Q. Cơ sở dữ liệu lớn đến mức nào?
- Nó được nén rất tốt, vài ngày làm việc chỉ khoảng 90kb.
- Với kết nối băng thông rộng trung bình, có thể đánh cắp vài tháng tài liệu và thao tác gõ phím chỉ trong vài giây.
Q. Tốc độ tìm kiếm thế nào?
- Trên thiết bị thì rất nhanh.
Q. Bạn đã thử đánh cắp cơ sở dữ liệu Recall của mình chưa?
- Có. Tác giả đã tự động hóa việc đánh cắp dữ liệu và tạo một website nơi có thể tải cơ sở dữ liệu lên để tìm kiếm ngay lập tức.
- Tác giả cố ý chưa công bố chi tiết kỹ thuật để cho Microsoft thời gian trước khi phát hành tính năng.
- Thực tế còn rất nhiều thứ để trình bày, và tác giả cho rằng khi tính năng này được phát hành rộng rãi thì nhiều cộng đồng an ninh mạng sẽ thấy nó “rất thú vị”, nhưng đó cũng là điều thật buồn vì có thể gây ra thiệt hại thực tế.
Q. Trong cơ sở dữ liệu có những loại thông tin nào?
- Mọi thứ người dùng đã xem đều được sắp xếp theo ứng dụng.
- Mọi văn bản người dùng đã xem (Microsoft Edge InPrivate được loại trừ, nhưng Google Chrome thì không).
- Mọi tương tác của người dùng như thu nhỏ cửa sổ.
- Có API hoạt động người dùng, và ứng dụng bên thứ ba có thể bổ sung dữ liệu cũng như xem dữ liệu đã lưu.
- Ngay cả bên thứ ba cũng có thể lưu toàn bộ website đã truy cập.
Q. Nếu xóa email/WhatsApp/Signal/Teams thì trong Recall cũng bị xóa chứ?
- Không, chúng vẫn nằm trong cơ sở dữ liệu vô thời hạn.
Q. Còn các tin nhắn tự động xóa trong ứng dụng nhắn tin thì có bị xóa khỏi Recall không?
- Không, Recall vẫn quét được và giữ chúng để sử dụng.
Q. Vậy điều này có thể dẫn đến rò rỉ dữ liệu quy mô lớn từ website không?
- Có. Nếu trong tương lai xảy ra các vụ rò rỉ dữ liệu lớn mà dữ liệu khách hàng rõ ràng đã bị lộ, tác giả cho rằng mọi người sẽ quy trách nhiệm cho công ty xử lý dữ liệu đó.
- Nhưng nếu dùng thiết bị Windows có Recall để truy cập dịch vụ/app, hacker có thể nhìn thấy mọi thứ và tạo một bản dump dữ liệu mà ngay cả công ty vận hành dịch vụ cũng không hề hay biết.
- Dữ liệu đã được cấu trúc nhất quán sẵn trong cơ sở dữ liệu Recall, nên rất dễ cho kẻ tấn công sử dụng.
- Chúng ta cần chuẩn bị cho các vụ rò rỉ siêu lớn do AI hỗ trợ.
Q. Microsoft có khiến BBC hiểu sai về bảo mật của Copilot không?
Q. Microsoft có khiến khách hàng hiểu sai về bảo mật của Copilot không?
- Có. Ví dụ, Microsoft mô tả đây là trải nghiệm tùy chọn, nhưng thực tế nó được bật mặc định và người dùng phải chủ động tắt đi.
- CEO Microsoft từng nhắc đến sản phẩm này là “screenshot”, nhưng bản thân sản phẩm chỉ dùng thuật ngữ “snapshot”.
- Microsoft cần nói rõ đây là gì để khách hàng có thể đưa ra lựa chọn sáng suốt.
Q. Recall không phải chỉ áp dụng cho đúng một thiết bị phần cứng sao?
- Điều đó không đúng. Hiện đã có 10 thiết bị Copilot+ từ mọi nhà sản xuất lớn có thể đặt hàng.
- Ngoài ra, website Microsoft còn nói họ đang nỗ lực hỗ trợ chipset AMD và Intel.
- Recall dự kiến sẽ áp dụng cho Windows 11.
Q. Làm sao tắt Recall?
- Bạn phải nhấp vào tùy chọn tắt Recall trong thiết lập ban đầu của thiết bị Copilot+ tương thích.
- Trong môi trường doanh nghiệp, nó được bật mặc định, nên cần đặt chính sách
Turn off Saving Snapshots for Windows để tắt Recall.
Q. Tác động tới quyền riêng tư là gì? Có vi phạm GDPR không?
- Tác giả không phải chuyên gia về quyền riêng tư hay pháp lý.
- Những chuyên gia quyền riêng tư mà tác giả trao đổi đều rất lo ngại về tác động của nó tới các hộ gia đình, chẳng hạn trong các tình huống bạo lực gia đình.
- Từ góc nhìn doanh nghiệp, cần cân nhắc rủi ro của việc xử lý dữ liệu khách hàng theo cách này.
- Microsoft sẽ không phải chịu trách nhiệm với tư cách bên xử lý dữ liệu vì việc xử lý diễn ra trên thiết bị edge.
Q. Microsoft có phải là một công ty lớn và xấu xa không?
- Không.
- Họ là những người rất thông minh, và đôi khi những người rất thông minh cũng mắc sai lầm. Điều quan trọng là họ có nhận ra sai lầm đó và sẽ làm gì hay không.
Q. Chẳng phải bạn là cựu nhân viên ghét Microsoft sao?
- Không, ngay trong tháng này tác giả còn viết blog khen Microsoft.
Q. Nó thực sự có hại đến mức đó sao?
- Hãy đến nhà bố mẹ, ông bà... xem chiếc PC Windows của họ, xem lại phần mềm đã cài trong 1 năm qua, thử sử dụng thiết bị và chạy quét antivirus.
- Có lý do để tồn tại cả một ngành công nghiệp bảo mật trị giá nghìn tỷ đô la, và phần lớn vấn đề đều xoay quanh malware và endpoint.
Q. Microsoft nên làm gì?
- Theo ý kiến của tác giả, Microsoft nên thu hồi Recall và làm lại cho đúng trước khi cung cấp sau này.
- Họ cũng nên xem xét lại quá trình ra quyết định nội bộ đã dẫn đến tình huống này.
- Đầu tháng này, CEO Microsoft đã gửi email cho toàn bộ nhân viên rằng: “Nếu phải lựa chọn giữa bảo mật và các ưu tiên khác, câu trả lời rất rõ ràng. Hãy chọn bảo mật.”
- Giờ chúng ta sẽ biết ông ấy có nghiêm túc với nội dung email đó hay không.
- Microsoft nên chấp nhận bị ảnh hưởng ở thời điểm hiện tại và hành xử khiêm tốn, nếu không họ có thể đặt niềm tin của khách hàng với Copilot và thương hiệu bảo mật vào rủi ro.
- Thành thật mà nói, gần như sẽ không có khách hàng nào khóc lóc vì không thể dùng Recall ngay lập tức, nhưng nếu phản ứng của Microsoft là không làm gì, vẫn phát hành sản phẩm, chỉ chỉnh sửa qua loa hoặc đánh trống lảng với báo chí, thì đó sẽ là điều rất đáng lo ngại.
1 bình luận
Ý kiến trên Hacker News
Chiến lược của Microsoft: Microsoft đang sử dụng chiến lược đẩy mạnh thật quyết liệt lúc đầu rồi sau đó đưa ra một giải pháp đã được nới lỏng hơn để đạt mục tiêu.
Trải nghiệm với Windows và ChromeOS: Dựa trên kinh nghiệm từng làm việc tại Microsoft trước đây, Windows là một hệ điều hành không tệ. Nhưng sau khi thử ChromeOS thì cuối cùng lại quay về Debian.
Chuyển sang Linux: Gần đây đã cài Arch Linux và Steam trên laptop Framework 16, và đang chạy game rất mượt. Giờ cảm thấy mình đã hoàn toàn rời xa các sản phẩm của Microsoft.
Sự thay đổi hình ảnh của Microsoft: Việc mua lại GitHub và đưa vào Windows Subsystem for Linux từng khiến Microsoft trông như một công ty rất ngầu, nhưng các tính năng Recall gần đây cùng việc bắt buộc đăng nhập tài khoản khi cài Windows 10 lại khiến người ta có cái nhìn tiêu cực một lần nữa.
Vấn đề của tính năng Recall: Trước đây Microsoft từng nỗ lực duy trì khả năng tương thích với phần mềm bên thứ ba, nhưng giờ lại đưa vào tính năng Recall xâm phạm quyền riêng tư của người dùng, thật đáng thất vọng.
Steve Jobs và Microsoft: Steve Jobs hiểu cảm xúc của con người đối với sản phẩm, còn Microsoft thì không. Trước đây họ đã không quan tâm đến cảm xúc người dùng, và có vẻ bây giờ cũng không thay đổi.
Lo ngại về quyền riêng tư: Vấn đề quyền riêng tư là rất nghiêm trọng, và vẫn có khả năng nó sẽ được cải thiện trước khi tình hình tệ hơn. Nhưng nếu tính năng này được triển khai tốt, nó có thể trở thành ứng dụng sát thủ của AI hiện đại.
Tầm quan trọng của việc tiếp cận thông tin: Khả năng tiếp cận thông tin tốt là một năng lực mạnh mẽ. Dữ liệu cá nhân có giá trị rất lớn, và cần có cách để lưu trữ cũng như tự động truy cập chúng. Theo thời gian, con người sẽ cần thích nghi với điều này.
Thiết bị gián điệp: Năm 2017, mọi người tự nguyện mang thiết bị gián điệp vào nhà, còn đến năm 2024 thì đang tự bật keylogger.
Phim 'Antitrust' và hiện thực: Bộ phim 'Antitrust' năm 2001 nói về một công ty giống Microsoft theo dõi mọi máy tính và đánh cắp mã nguồn. Sau 23 năm, điều đó đã trở thành hiện thực.