Microsoft đang giám sát người dùng công cụ AI của mình

Microsoft đang giám sát người dùng các công cụ AI của mình

• Microsoft cho biết đã phát hiện các hacker từ Trung Quốc, Nga và Iran đang sử dụng các công cụ trí tuệ nhân tạo (AI) của công ty để tăng cường khả năng hack.
• Các hacker này được nhận diện dưới tên Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon và Salmon Typhoon, và dường như đang dùng các mô hình ngôn ngữ lớn (LLM) để gia tăng hiệu quả chiến dịch mạng.
• Microsoft hoặc OpenAI chỉ có thể nhận ra các hoạt động này bằng cách giám sát các phiên trò chuyện của chatbot.
• Các điều khoản sử dụng có thể cho phép việc giám sát người dùng, và việc Microsoft cùng OpenAI giám sát việc dùng AI không có gì đáng ngạc nhiên, nhưng thông báo này đã chính thức xác nhận điều đó.

Ý kiến của GN⁺

• Bài viết cung cấp thông tin quan trọng rằng Microsoft đang theo dõi việc sử dụng các công cụ AI và nhờ đó theo dõi hoạt động của các hacker được nhà nước hậu thuẫn.
• Việc giám sát người dùng có thể gây lo ngại về quyền riêng tư và an toàn cá nhân, nhưng cũng có thể được xem như một biện pháp quan trọng để tăng cường an ninh mạng và bảo vệ an ninh quốc gia.
• Hoạt động giám sát này cho thấy khả năng AI có thể được dùng theo hai hướng khác nhau, và có thể khơi dậy các cuộc thảo luận về những vấn đề đạo đức và pháp lý mới phát sinh từ sự tiến bộ công nghệ.

[GN⁺]

Ý kiến trên Hacker News

• Tóm tắt bình luận về cách OpenAI API xử lý dữ liệu người dùng

  • Theo Điều khoản dịch vụ (TOS) của API OpenAI, OpenAI có thể lưu trữ dữ liệu đầu vào và đầu ra của API trong tối đa 30 ngày để cung cấp dịch vụ và phát hiện hành vi lạm dụng.
  • Nếu không bị pháp luật yêu cầu, dữ liệu sẽ bị xóa khỏi hệ thống sau 30 ngày.
  • Người dùng không thể yêu cầu việc lưu trữ dữ liệu cho các trường hợp sử dụng cụ thể (ZDR).
  • Thông tin chi tiết về xử lý dữ liệu có thể xem trên trang tài liệu nền tảng của OpenAI.

• Tóm tắt bình luận về cách Microsoft xử lý dữ liệu người dùng công cụ AI

  • Người dùng cho rằng "Microsoft đang theo dõi người dùng công cụ AI", nhưng thực tế là Microsoft đã phát hiện chính phủ thù địch từ các nước độc tài đang sử dụng công cụ AI cho hoạt động bất hợp pháp.
  • Khi chấp thuận điều khoản dịch vụ, người dùng đồng ý rằng Microsoft có thể tiến hành theo dõi dữ liệu này.

• Tóm tắt bình luận về Google Bard và Gemini

  • Gemini của Google công khai rằng, từ trang chủ của công ty, các cuộc trò chuyện của người dùng có thể được xử lý bởi người đánh giá và được dùng để cải thiện công nghệ của ứng dụng Gemini.
  • Người dùng không nên nhập thông tin mà không muốn người đánh giá hoặc Google nhìn thấy.
  • Nội dung trong Google Workspace sẽ không được xem xét hoặc sử dụng cho việc cải thiện Gemini.
  • Người dùng có thể tắt hoạt động của ứng dụng Gemini để các cuộc trò chuyện trong tương lai không bị xem xét hay dùng để cải thiện mô hình học máy.

• Tóm tắt bình luận về điều khoản dịch vụ và chính sách quyền riêng tư

  • Nhiều công ty công nghệ có quyền theo dõi việc sử dụng AI của người dùng nhờ những gì được quy định trong điều khoản dịch vụ.
  • Nếu điều khoản dịch vụ có điều khoản cho phép theo dõi, thì việc cho rằng công ty thực sự đang theo dõi là có cơ sở.
  • Chính sách quyền riêng tư khiến người dùng tin tưởng công ty hơn, nhưng không có cách nào để kiểm chứng xem công ty có thực sự tuân thủ không.

• Tóm tắt bình luận về giám sát dữ liệu người dùng của Microsoft

  • Việc Microsoft giám sát việc người dùng sử dụng công cụ AI của họ không phải là chuyện bất ngờ và đã là điều đã biết rộng rãi.
  • Nhiều công ty công nghệ, bao gồm cả Microsoft, có quyền truy cập nội dung cuộc trò chuyện của người dùng; điều này chỉ nên diễn ra dựa trên sự cho phép rõ ràng và có thể rút lại của người dùng.

• Tóm tắt bình luận về việc sử dụng công cụ AI và thu thập dữ liệu

  • Sử dụng công cụ AI đồng nghĩa với việc dữ liệu người dùng có thể được thu thập với quy mô lớn.
  • Chỉ nên dùng các công cụ AI chạy cục bộ nếu người dùng thực sự quan tâm đến bảo mật dữ liệu của mình.

• Tóm tắt bình luận về mối tương quan giữa phát triển AI và thu thập dữ liệu

  • AI dựa trên dữ liệu, và càng thu thập được nhiều dữ liệu, càng có thể huấn luyện AI tốt hơn, tạo ra một vòng lặp tích cực với việc ngày càng nhiều người dùng sẵn sàng cung cấp dữ liệu.

• Tóm tắt bình luận về thu thập dữ liệu nền tảng và phát hiện lạm dụng

  • Việc tất cả các nền tảng thu thập đầu vào của người dùng để huấn luyện mô hình tiếp theo và phát hiện lạm dụng là điều dễ thấy.