Microsoft đang giám sát người dùng công cụ AI của mình

• Microsoft cho biết họ đã phát hiện các hacker từ Trung Quốc, Nga và Iran sử dụng công cụ AI của hãng để nâng cao năng lực tấn công
• Microsoft và OpenAI đã theo dõi việc sử dụng LLM của các tác nhân gắn với nhà nước như Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon và Salmon Typhoon
• Schneier cho rằng lý do Microsoft hoặc OpenAI có thể biết điều này là do giám sát các phiên chatbot
• Điều khoản dịch vụ có thể đã bao gồm quyền quan sát như vậy, và các dịch vụ AI khác cũng có thể theo dõi hành vi sử dụng tương tự
• Người dùng công cụ AI cần đánh giá mức độ nhạy cảm về bảo mật với giả định rằng đầu vào và phiên làm việc của họ có thể bị nhà cung cấp dịch vụ quan sát

---

Thông báo của Microsoft và việc sử dụng công cụ AI

• Microsoft cho biết các hacker từ Trung Quốc, Nga và Iran đã cố sử dụng công cụ AI của hãng để cải thiện năng lực tấn công
• Theo ngữ cảnh, công cụ AI này được suy đoán là công cụ lập trình

Các nhóm tấn công bị theo dõi cùng với OpenAI

• Microsoft đã chia sẻ thông tin tình báo mối đe dọa được phát hiện khi hợp tác với OpenAI
• Theo báo cáo, các nhóm bị theo dõi là tác nhân gắn với nhà nước đã dùng LLM để tăng cường hoạt động tác chiến mạng
  • Forest Blizzard
  • Emerald Sleet
  • Crimson Sandstorm
  • Charcoal Typhoon
  • Salmon Typhoon

Cách diễn giải về việc giám sát phiên chatbot

• Schneier nhận định cách duy nhất để Microsoft hoặc OpenAI biết được việc sử dụng AI của các tác nhân này là xem vào các phiên chatbot
• Điều khoản dịch vụ có thể bao gồm quyền đó
• Không chỉ Microsoft và OpenAI mà các công ty AI khác cũng có thể giám sát hành vi sử dụng, và thông báo lần này được xem là một trường hợp xác nhận khả năng đó

Giải thích bổ sung về cách dùng từ “spying”

• Bản biên tập ngày 22 tháng 2 đã bổ sung giải thích về việc dùng từ “spying”

[GN⁺]

Ý kiến trên Hacker News

• Muốn gọi chuyện này là hành vi gián điệp thì nên đọc lại điều khoản OpenAI API. Nếu tự nhận là “hacker” mà vẫn tiếp tục dùng API đó thì phần lớn là trách nhiệm của chính bạn
  OpenAI nêu rằng họ có thể lưu trữ an toàn đầu vào và đầu ra của API trong tối đa 30 ngày để cung cấp dịch vụ và phát hiện lạm dụng, và sau 30 ngày sẽ xóa khỏi hệ thống trừ khi có nghĩa vụ lưu giữ theo pháp luật. Với các trường hợp sử dụng đủ điều kiện, cũng có thể yêu cầu không lưu trữ (ZDR)
  Nguồn: https://openai.com/enterprise-privacy

  • Dù vậy, so với các dịch vụ trực tuyến trước thời LLM, chính sách quyền riêng tư này tệ một cách bất thường
    Ví dụ, chính sách Google Docs tại https://support.google.com/docs/answer/10381817?hl=en nói rằng “Google tôn trọng quyền riêng tư của người dùng và chỉ truy cập nội dung không công khai khi được cho phép hoặc khi pháp luật yêu cầu”
    Kỳ vọng cùng mức độ như vậy ở các nhà cung cấp LLM API là hợp lý, và việc họ hiện đang giám sát người dùng trên quy mô lớn là không tốt
  • Điều khoản của Azure thì khác. Cũng có thể từ chối lưu giữ dữ liệu: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
  • Những điều khoản như vậy không quá đặc biệt, mà khá phổ biến trong các dịch vụ đám mây nói chung, gồm cả GCP, AWS và Azure
    Đặc biệt là trong mảng dịch vụ machine learning/AI; khó có thể xem điều khoản này là vượt ngoài lẽ thường

• Cách diễn đạt lại thành “Microsoft đang giám sát người dùng công cụ AI” thật buồn cười. Thực tế câu chuyện là Microsoft phát hiện chính phủ thù địch của các quốc gia chuyên chế dùng công cụ AI cho hoạt động bất hợp pháp; việc theo dõi như vậy được nêu rõ trong điều khoản, và người dùng phải bấm “Tôi đồng ý”
  Tiêu đề tiếp theo chắc sẽ là “Đài truyền hình lớn giám sát cầu thủ bóng đá trong trận Champions League”

  • Chuyện hiển nhiên với chúng ta không có nghĩa là hiển nhiên với tất cả mọi người
    Tiêu đề gây chú ý cũng có thể chính đáng, và không thể chấp nhận chỉ vì nó phổ biến. Việc nhận thức rộng rãi hơn rằng những điều khoản đơn phương như vậy cho phép hành vi thù địch với người dùng là điều đáng hoan nghênh
  • Có thể dùng những công cụ đó mà không bấm “Có” không?
  • Hơn nữa, Microsoft còn cố ý lập phòng thí nghiệm AI ở Trung Quốc. Thật vô lý
  • Đây cũng không phải “người dùng” ngẫu nhiên nào đó, mà là Bruce Schneier
  • Tôi rất đồng ý rằng chuyện này không có gì to tát
    Tuy nhiên, điểm trông giống tin tức hơn lại là việc những câu như “Microsoft giám sát X” giờ được chấp nhận như một mệnh đề hiển nhiên. Tức là câu “gián điệp giám sát X” sẽ mang nghĩa “Microsoft = gián điệp”, và bị đọc như vậy không chỉ trong ngữ cảnh này mà trong mọi ngữ cảnh
    Từ đó về sau, các yếu tố như điều khoản, tính hợp pháp, bất hợp pháp, thù địch hay thân thiện đều trở thành thứ yếu

• Google Bard, à không, Gemini, nói rất rõ điều này ngay trên trang chủ
  “Để cải thiện công nghệ vận hành Gemini Apps, các cuộc trò chuyện của bạn sẽ được người đánh giá xử lý. Đừng nhập nội dung mà bạn không muốn bị xem xét hoặc sử dụng.”
  Chỉ cần trò chuyện thôi cũng góp phần cải thiện các dịch vụ của Google, bao gồm các mô hình machine learning vận hành Gemini, và trong quá trình đó các đánh giá viên được đào tạo phải xử lý cuộc trò chuyện. Họ giải thích rằng nội dung Google Workspace như Gmail hay Drive không bị xem xét hoặc sử dụng để cải thiện Gemini, và nếu muốn các cuộc trò chuyện trong tương lai không bị xem xét hoặc dùng để cải thiện mô hình machine learning thì có thể tắt Gemini Apps Activity

  • Sẽ tốt hơn nếu Google nói rõ hơn liệu họ có thực sự hỗ trợ cách sử dụng không bị giám sát hay không
    Ở đây có vẻ chỉ rõ ràng được khoảng một nửa

• Rút gọn thành “Microsoft giám sát người dùng” là được
  Nếu dùng sản phẩm Microsoft hiện đại, bạn đang gửi đi rất nhiều dữ liệu, và chỉ có vậy thôi

  • Khái quát hơn thì là “mọi người đều giám sát người dùng, và đó là cách Internet vận hành”

• Đúng vậy. Họ nói khá rõ là giám sát việc lạm dụng, và thời hạn là 30 ngày
  Không hiểu vì sao chuyện này lại đáng ngạc nhiên

  • Trong số những trường hợp không có gì to tát, đây còn là trường hợp khá ôn hòa và có thể dự đoán được. Khi dùng một nền tảng chạy hoàn toàn trên backend được lưu trữ, mọi thứ tất yếu có thể bị ghi log và lưu lại
    So với vậy, Nvidia gửi mọi giá trị trên thanh tiêu đề và mọi cú nhấp chuột về máy chủ; dù từ chối thì chúng vẫn được phân loại là “bắt buộc” và bị gửi đi. Rất có thể đó là spyware xâm phạm nhất trong số những thứ đang được cài đặt hiện nay

• Nếu bạn trò chuyện với công cụ AI qua nhiều kênh xã hội, chẳng hạn Facebook, Twitter, Instagram, tin nhắn văn bản, v.v., thì nên xem như các đoạn chat đó đang được không chỉ nhân viên công ty đó mà cả nhân viên marketing của công ty và đối tác bên ngoài tích cực đọc
  Tất nhiên họ có thể bị ràng buộc bằng hợp đồng, nhưng những gì mọi người hỏi chatbot bao gồm thông tin sức khỏe, thông tin tình dục, cho đến những điều cực kỳ riêng tư vốn chỉ nói với nhà tư vấn. Vậy mà chúng cũng có thể bị một thực tập sinh marketing 22 tuổi đọc, là văn bản thuần không mã hóa, có thể sao chép/dán, và có thể liên kết với tên người dùng/ID

• Tôi hoàn toàn không tin Microsoft, nhưng cũng không ngạc nhiên, giống như khi nghe rằng OpenAI hay Google làm những việc như vậy
  Điều đó không có nghĩa là nó được biện minh. Tôi nghĩ đã đến lúc mọi bên phải thay đổi lập trường về quyền riêng tư để chỉ được xem nội dung cuộc trò chuyện chat khi người dùng cấp phép rõ ràng và có thể rút lại

• Người dùng những công cụ như thế chẳng khác nào tự nguyện để toàn bộ dữ liệu của mình bị hút vào. Nếu lo ngại chuyện này thì AI chạy cục bộ mới là cách đáng dùng

• AI được xây dựng trên dữ liệu. Càng giám sát nhiều thì càng thu được nhiều dữ liệu huấn luyện AI; càng huấn luyện nhiều thì AI càng tốt hơn và có giá trị hơn; càng nhiều người dùng thì lại càng cung cấp dữ liệu, tạo thành một vòng lặp

• Đây là chất liệu dễ kích động phẫn nộ
  Tất cả các nền tảng này đều đang thu gom đầu vào để huấn luyện mô hình tiếp theo. Vậy thì vì sao việc họ cũng sẽ làm phát hiện lạm dụng lại không phải là điều hiển nhiên?