Meta tạm dừng chương trình theo dõi nhân viên sau vụ rò rỉ dữ liệu nội bộ

 (wired.com)
1 điểm bởi GN⁺ 5 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp
  • Meta đã tạm dừng Model Compatibility Initiative (MCI) sau khi dữ liệu do chương trình này thu thập từ thao tác nhập trên máy tính của nhân viên bị lộ quá mức trong nội bộ công ty
  • MCI được triển khai cho nhân viên tại Mỹ từ tháng 4, và đã vấp phải phản đối vì thu thập các thông tin như chuyển động chuột, vị trí nhấp, thao tác gõ phím và nội dung màn hình
  • Ban lãnh đạo cho rằng dữ liệu nhân viên là cần thiết để AI học cách con người sử dụng phần mềm, nhưng lo ngại về quyền riêng tư và bảo mật cuối cùng đã dẫn đến một sự cố lộ lọt nội bộ thực tế
  • Stephane Kasriel thông báo với nhân viên rằng sự cố bảo mật được phát hiện ngày 18 tháng 6 đã được xử lý trong vòng 4 giờ, nhưng vì bản sửa lỗi ban đầu không được duy trì nên quyền truy cập dữ liệu đã bị siết chặt thêm
  • Meta cho biết chỉ khởi động lại MCI khi có đủ sự tin tưởng rằng các biện pháp kiểm soát bảo vệ dữ liệu đang hoạt động hiệu quả, đồng thời nói rằng công ty đã thu thập đủ dữ liệu để đánh giá giá trị dài hạn của chương trình

MCI bị tạm dừng và dữ liệu nội bộ bị lộ

  • Meta đã tạm dừng chương trình theo dõi nhân viên MCI
  • Việc tạm dừng diễn ra sau khi dữ liệu có khả năng nhạy cảm do MCI thu thập bị lộ cho các nhân viên khác trong công ty
  • Người phát ngôn Meta Tracy Clayton cho biết chương trình được thiết kế kèm các biện pháp bảo vệ quyền riêng tư, và hiện chưa có dấu hiệu cho thấy nhân viên Meta đã truy cập dữ liệu một cách không phù hợp, nhưng công ty sẽ tạm dừng trong thời gian điều tra

Dữ liệu được thu thập và phản ứng của nhân viên

  • MCI là công cụ được triển khai cho nhân viên tại Mỹ vào tháng 4
  • Theo những gì nhân viên nêu trong đơn kiến nghị phản đối, các loại dữ liệu được thu thập gồm:
    • chuyển động chuột
    • vị trí nhấp
    • thao tác gõ phím
    • nội dung màn hình
  • Khi ra mắt, nhân viên không thể opt-out khỏi MCI, nhưng sau phản đối thì điều này đã được thay đổi ở mức hạn chế
  • Nhân viên lâu nay lo ngại MCI có thể xâm phạm quyền riêng tư, bảo mật và tự do cá nhân

Lý do Meta thúc đẩy MCI

  • Ban lãnh đạo Meta nhiều lần bảo vệ việc thu thập dữ liệu của MCI là cần thiết cho việc huấn luyện các hệ thống AI
  • Mục tiêu là để AI học cách con người thao tác phần mềm máy tính
  • Ban lãnh đạo cho rằng chính nhân viên là những ví dụ tốt nhất để AI học hỏi

Thông báo bảo mật nội bộ và phản ứng của nhân viên

  • Hôm thứ Hai, một kỹ sư Meta đã thông báo trong bản tin bảo mật nội bộ rằng cơ sở dữ liệu chứa thông tin do MCI thu thập đã bị lộ cho bất kỳ ai trong công ty nội bộ
  • Một cựu nhân viên từng tham gia hoạt động phản đối MCI gọi sự việc này là “a mess” và nói rằng đây là điều nhân viên đã dự đoán từ trước
  • Cựu nhân viên này chỉ trích rằng ban lãnh đạo đã ép triển khai chương trình bất chấp lo ngại của nhân viên, đồng thời không thừa nhận các rủi ro về an toàn và quyền riêng tư đối với dữ liệu của người lao động và khách hàng
  • Trên diễn đàn nội bộ hôm thứ Hai đã xuất hiện hàng loạt bình luận chỉ trích vấn đề bảo mật, và sau đó Meta đã dừng toàn bộ MCI, điều khiến một số nhân viên bất ngờ
  • Một vài nhân viên cho biết họ cảm thấy bối rối vì công cụ này vẫn tiếp tục chạy trên laptop cho tới trước khi thông báo tạm dừng được đưa ra

Thông báo của Kasriel và điều kiện khởi động lại

  • Stephane Kasriel, phó chủ tịch phụ trách nghiên cứu AI tại Meta, đã thông báo với nhân viên vào cuối ngày thứ Hai về việc tạm dừng MCI
  • Theo Kasriel, sự cố bảo mật được phát hiện vào ngày 18 tháng 6 và đã được xử lý trong vòng 4 giờ
  • Tuy vậy, vì bản sửa lỗi ban đầu không được duy trì nên cần phải khóa quyền truy cập dữ liệu chặt hơn nữa
  • Vấn đề này khiến “một số dữ liệu phái sinh từ MCI” có thể bị nhiều người truy cập hơn mức dự kiến, nhưng không có giải thích cụ thể nào được đưa ra
  • MCI sẽ chỉ được kích hoạt lại khi Meta tin tưởng vào hiệu quả của các biện pháp kiểm soát bảo vệ dữ liệu
  • Meta cho biết họ đã thu thập đủ dữ liệu để đánh giá giá trị dài hạn của MCI, và sẽ chia sẻ thêm trong tương lai về hướng đi của chương trình

Bài viết liên quan

1 bình luận

 
GN⁺ 5 giờ trước
Ý kiến từ Hacker News

  • Meta vẫn là công ty trơ trẽn nhất, và gần như là một nơi đáng xấu hổ để làm việc
    Thật khó nghĩ ra dù chỉ một sản phẩm nào của công ty này mà không khiến thế giới rõ ràng trở nên tệ hơn
    Ngay cả đợt lấn sân phần cứng gần đây cũng đang đi theo hướng đàn ông dùng Ray-Ban để quay lén phụ nữ say xỉn, giám sát, và làm xói mòn niềm tin trong các tương tác thường ngày
    Tôi có vài người quen ở các phòng thí nghiệm frontier “chu đáo” hơn, và họ nói chỉ riêng lý do này cũng đủ để loại ngay ứng viên từng nộp vào Meta

    • Ví dụ, Facebook đã kiếm rất nhiều tiền cho cổ đông, và ai cũng biết điều đó cũng giống như làm cho thế giới tốt đẹp hơn mà
    • Nếu nói đến sản phẩm không làm thế giới rõ ràng tệ đi thì có zstd
      Còn React và PyTorch thì ý kiến vẫn còn chia rẽ
    • Meta giống như một nhà tù mạ vàng dành cho những thiếu niên ngoài ba mươi nhưng chẳng thể trưởng thành dù làm gì đi nữa. Thật đáng xấu hổ
    • Sản phẩm của Meta đúng là có hại cho xã hội, nhưng tôi nghĩ công ty còn đáng xấu hổ hơn để làm việc là Palantir
    • Facebook của giai đoạn 2004~2005 thực sự rất tuyệt
      Nó lan nhanh như cháy rừng và dùng rất vui. Đó là thời chỉ có tôi, bạn đại học của tôi, và bạn của họ ở trên đó

  • Nếu họ còn làm thế này với cả những nhân viên mà chính họ muốn giữ lại bằng tiền, thì họ sẽ định làm gì với dữ liệu người dùng
    Và họ còn định làm gì với các hệ thống của họ kết nối vào hệ thống của người dùng
    “Dumb f*cks” hóa ra đúng là tinh thần xuyên suốt từ ngày đầu tiên của công ty này

  • Tôi ngày càng tin rằng những vụ rò rỉ kiểu này là hình thức kháng cự hiệu quả duy nhất chống lại xã hội giám sát mà chúng ta đang bước vào
    Meta sẽ tiếp tục như vậy, các nhà tuyển dụng khác có lẽ cũng sẽ làm theo, và chính phủ sẽ thêm dữ liệu đó vào hồ sơ của mình thông qua “thủ tục pháp lý thích hợp”
    Việc mở rộng camera giám sát, kiểm soát chat, xóa bỏ tính ẩn danh đang diễn ra ngay lúc này
    Khi dữ liệu kiểu này bị rò rỉ, mọi người sẽ thấy rõ đó là một rủi ro trách nhiệm pháp lý lớn đến mức nào. Dữ liệu của lãnh đạo Meta cũng nằm trong đống đó, và binh sĩ cùng nghị sĩ cũng có trong cơ sở dữ liệu Flock
    Không biết có bao nhiêu thượng nghị sĩ mà PornHub đang nắm hồ sơ sở thích chính xác của họ
    Tất nhiên các vụ rò rỉ dữ liệu như vậy sẽ gây hại. Nhưng liệu cái hại đó có thực sự lớn hơn việc ai cũng bị giám sát bởi mọi người ở khắp mọi nơi hay không

    • Khi không bị rò rỉ thì thiệt hại còn có thể lớn hơn
      Vì nó có thể bị dùng để tống tiền những người có quyền lực. Bạn thậm chí không cần làm gì bất hợp pháp, chỉ cần có phát ngôn gây tranh cãi hay sở thích tình dục khác thường là đủ xong đời
      Dĩ nhiên cũng có thể có hành vi bất hợp pháp, và kể cả hoàn toàn không có gì phạm pháp thì cũng vẫn có thể đủ để dựng nên một cuộc điều tra kiểu parallel construction

  • Đọc bài được dẫn thì thấy dữ liệu bị rò rỉ bao gồm ảnh chụp màn hình có vẻ chứa các cuộc trò chuyện riêng tư ở dạng văn bản thuần của một số nhân viên, cùng với thông tin hiệu suất làm việc
    Ghi lại toàn bộ màn hình rồi vẫn kỳ vọng sẽ ẩn danh hóa tốt được đúng là một lựa chọn khá táo bạo

  • Những người nói “nếu bạn không vi phạm quy tắc thì chẳng có gì phải sợ” nên nhớ rằng đa số công ty xem việc chỉ làm đúng theo quy định như một hình thức phản kháng
    Chỉ cần bạn tuân thủ quy tắc đúng nghĩa thôi thì hệ thống giám sát này cũng sẽ được dùng để nhận diện và trừng phạt bạn

  • Hệ thống đó có vẻ sẽ là cơn ác mộng trong quy trình khám phá chứng cứ

    • Nghe lại giống một ý tưởng tuyệt vời hơn
      Tôi tự hỏi liệu họ đã nghĩ đến chuyện đó và loại khỏi diện giám sát những vị trí có khả năng cao nhất tạo ra “bằng chứng quyết định” hay chưa

  • Công ty rác rưởi này đang đi vào vòng xoáy tử thần

    • Đáng tiếc là nhờ đống tiền mặt tích trữ và Facebook như một con ngỗng đẻ trứng vàng, họ vẫn sẽ cầm cự được thêm khá lâu

  • Họ chỉ tạm dừng thôi, và rõ ràng có ý định khởi động lại
    Tôi không hiểu vì sao bình luận này bị downvote. Bài báo viết nguyên văn như sau
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Có vẻ Meta trả lương cực cao

  • Có lẽ họ đã viết tiện ích đó bằng AI. AI không bảo vệ được bảo mật cho ra hồn thì cũng chẳng có gì đáng ngạc nhiên