Bồi thẩm đoàn phán quyết Meta phải chịu trách nhiệm trong vụ bóc lột tình dục trẻ em xảy ra trên các nền tảng của mình

• Bồi thẩm đoàn bang New Mexico phán quyết rằng Meta đã không bảo vệ được trẻ em khỏi tội phạm tình dục trên Facebook và Instagram, qua đó vi phạm luật bang
• Meta bị xác định có hành vi "thương mại không công bằng, lừa dối" và "hành vi vô lương tâm", đồng thời bị yêu cầu bồi thường 375 triệu USD; công ty cho biết sẽ kháng cáo
• Vụ việc này là phán quyết của bồi thẩm đoàn đầu tiên liên quan đến nghĩa vụ bảo vệ thanh thiếu niên của các công ty mạng xã hội, đồng thời là trường hợp đầu tiên Meta bị xác định phải chịu trách nhiệm trước tòa
• Tại phiên tòa, lời khai của người tố giác nội bộ và các cựu lãnh đạo đã nêu ra rằng thuật toán đã vận hành theo hướng có lợi cho tội phạm
• Phán quyết này được đánh giá là một tiền lệ quan trọng trong việc tăng cường trách nhiệm pháp lý của các công ty mạng xã hội và thiết lập tiêu chuẩn bảo vệ thanh thiếu niên

---

Bồi thẩm đoàn New Mexico xác định Meta phải chịu trách nhiệm vì không ngăn chặn được nạn bóc lột tình dục trẻ em

• Bồi thẩm đoàn bang New Mexico phán quyết rằng Meta đã vi phạm luật bang vì không cảnh báo về mức độ nguy hiểm trên nền tảng của mình và không bảo vệ được trẻ em khỏi tội phạm tình dục
  • Meta bị kết luận đã thực hiện "hành vi thương mại không công bằng và lừa dối" cùng với "hành vi vô lương tâm", và bị yêu cầu bồi thường thiệt hại tổng cộng 375 triệu USD
  • Meta cho biết có kế hoạch kháng cáo phán quyết và tuyên bố rằng họ “trân trọng nhưng không đồng tình với quyết định này”
• Vụ việc bắt nguồn từ đơn kiện do Tổng chưởng lý New Mexico Raúl Torrez khởi xướng vào năm 2023, với cáo buộc rằng Meta đã biến Facebook và Instagram thành nơi hoạt động của các đối tượng phạm tội tình dục nhắm vào trẻ em
  • Chính quyền bang yêu cầu bồi thường hàng tỷ USD, nhưng bồi thẩm đoàn chỉ chấp nhận mức thấp hơn
  • Trong các thủ tục tiếp theo, tòa án có thể áp dụng thêm chế tài hoặc ra lệnh thay đổi nền tảng
• Đây là phán quyết đầu tiên của bồi thẩm đoàn trong chuỗi vụ kiện đặt vấn đề về trách nhiệm bảo vệ thanh thiếu niên của các công ty mạng xã hội, và cũng là lần đầu tiên Meta bị xác định phải chịu trách nhiệm trước tòa
  • Đồng thời, tại Los Angeles, một vụ kiện riêng nhằm vào Meta và YouTube với cáo buộc các tính năng gây nghiện đã làm tổn hại sức khỏe tâm thần của thanh thiếu niên cũng đang chờ phán quyết
  • Trên khắp nước Mỹ, hàng trăm vụ kiện tương tự đã được cá nhân, trường học và chính quyền bang đệ trình
• Phiên tòa kéo dài 6 tuần với lời khai từ người tố giác nội bộ và các cựu lãnh đạo của Meta
  • Cựu giám đốc kỹ thuật của Meta, Arturo Bejar, làm chứng rằng con gái 14 tuổi của ông từng nhận được những tiếp cận mang tính tình dục trên Instagram, đồng thời chỉ ra rằng thuật toán cá nhân hóa của Meta cũng có thể hoạt động theo hướng có lợi cho tội phạm
  • Cựu phó chủ tịch Brian Boland làm chứng rằng “đối với CEO Mark Zuckerberg và COO khi đó là Sheryl Sandberg, an toàn không phải là ưu tiên”
  • Trong khi đó, người đứng đầu Instagram Adam Mosseri khai rằng công ty đã triển khai các tính năng bảo vệ thanh thiếu niên như Teen Accounts
• Meta khẳng định 40.000 nhân viên đang phụ trách an toàn và công ty đang đầu tư rất lớn cho việc bảo vệ thanh thiếu niên
  • Trước chỉ trích của Meta rằng các tài khoản điều tra ngầm của văn phòng tổng chưởng lý đã sử dụng ảnh của trẻ em thật, Torrez bác bỏ và cho rằng đó là “đòn tấn công nhằm né tránh trách nhiệm”
  • Meta nhấn mạnh việc phát triển công nghệ ngăn chặn bóc lột tình dục trẻ em và hợp tác với cơ quan thực thi pháp luật, đồng thời công bố sẽ ngừng tính năng nhắn tin mã hóa đầu cuối trên Instagram
  • Torrez đánh giá phán quyết này là “một chiến thắng mang tính lịch sử trước Meta, công ty đã đặt lợi nhuận lên trên sự an toàn của trẻ em”

Các vấn đề chính mà bồi thẩm đoàn xem xét

• Bồi thẩm đoàn xem xét liệu Meta có đưa ra các phát ngôn sai sự thật hoặc gây hiểu lầm về mức độ an toàn của nền tảng hay không, hoặc có cố ý thiết kế theo cách gây hại cho thanh thiếu niên hay không
  • Văn phòng tổng chưởng lý New Mexico cho biết họ đã tạo các tài khoản trẻ em giả hoạt động trên Facebook và Instagram, và những tài khoản này đã nhận được đề nghị tình dục và yêu cầu gửi nội dung khiêu dâm
  • Ba người đàn ông trưởng thành từng liên hệ với các tài khoản này đã bị bắt vào tháng 5/2024, trong đó hai người bị cáo buộc cố gắng gặp ngoài đời với tài khoản giả làm bé gái 12 tuổi
• Lời khai nội bộ từ Meta nêu ra rằng chức năng kết nối của thuật toán có thể bị tội phạm lạm dụng
  • Có lời khai cho rằng: “Nếu mối quan tâm là các bé gái nhỏ tuổi, nền tảng sẽ tăng cường kết nối phù hợp với mối quan tâm đó”
• Quyết định ngừng tính năng mã hóa đầu cuối của Meta được nhắc đến như một biện pháp nhằm tăng khả năng tiếp cận cho cơ quan điều tra
  • Meta giải thích rằng “rất ít người dùng sử dụng tính năng này nên sẽ gỡ bỏ nó khỏi Instagram, và tiếp tục hỗ trợ nhắn tin mã hóa trên WhatsApp”
• Ravi Sinha, người phụ trách chính sách an toàn trẻ em của Meta, làm chứng rằng công ty đã hợp tác với cơ quan thực thi pháp luật và phát triển công nghệ để ngăn chặn việc bóc lột trẻ em
  • Người phát ngôn Meta Andy Stone chỉ trích cuộc điều tra của New Mexico là “có vấn đề về mặt đạo đức”, nhưng Torrez phản bác rằng đó là “nỗ lực né tránh trách nhiệm”
• Phán quyết này được xem là một tiền lệ quan trọng trong xu hướng siết chặt trách nhiệm pháp lý đối với các công ty mạng xã hội
  • Trong tương lai, nó có thể ảnh hưởng đến các vụ kiện liên quan đến bảo vệ thanh thiếu niên ở các bang khác cũng như ở cấp liên bang

[GN⁺]

Ý kiến trên Hacker News

• Nhiều người sẽ reo hò chỉ vì đây là phán quyết bất lợi cho Meta mà không cần đọc chi tiết, nhưng cần nhận ra rằng những vụ kiện kiểu này là một trong các lý do chính khiến các tính năng như mã hóa đầu cuối (E2EE) bị thụt lùi
  Trong vụ kiện của bang New Mexico, đã xuất hiện lo ngại rằng nếu cho thanh thiếu niên dùng E2EE trên Instagram thì cơ quan điều tra sẽ khó bắt tội phạm hơn. Trong lúc xét xử, Meta thông báo sẽ ngừng hỗ trợ nhắn tin E2EE trên Instagram vào cuối năm nay
  Vụ kiện của bang New York thậm chí còn nhắm trực tiếp vào chính việc hỗ trợ E2EE (bài Reuters)

  • Cốt lõi là phải bảo đảm tính minh bạch và quyền lựa chọn của người tiêu dùng
    Nên phân loại tài khoản trẻ em theo cấu trúc để phụ huynh giám sát, cho phép phụ huynh xem lại nội dung hoặc thiết lập các công cụ cần thiết
    Tuy vậy, về mặc định thì mọi người trên mạng nên được xem là người trưởng thành, và nếu phụ huynh cho phép con mình hoạt động trực tuyến thì họ cũng phải chịu trách nhiệm giám sát tương ứng
    Các quy định như vậy chỉ nên áp dụng cho sản phẩm thương mại, không nên áp lên các dự án cộng đồng phi lợi nhuận
  • Việc không cho trẻ vị thành niên dùng E2EE thì tôi thấy chấp nhận được, nhưng chặn tất cả mọi người thì tôi phản đối. Tôi đang nuôi hai đứa con
  • Với tư cách người vận hành nền tảng, tôi nghĩ E2EE không đem lại lợi ích thực tế nào cho dịch vụ miễn phí. Trái lại, nó chỉ kéo theo trách nhiệm pháp lý khó lường
  • Các tổ chức tập trung và phần mềm độc quyền không thể cung cấp E2EE thực sự. Vì họ luôn có thể thêm cửa hậu qua một bản cập nhật
    Thà ép họ chấm dứt kiểu an ninh trình diễn (security theater) này còn hơn, rồi những ai thật sự cần quyền riêng tư sẽ tự tìm giải pháp thay thế
  • Đây mới là vấn đề cốt lõi. Nó không thực sự giúp được trẻ em, cũng không khiến Meta bị ảnh hưởng nặng. Cuối cùng chỉ dẫn tới suy yếu quyền riêng tư và tăng cường giám sát

• Tôi thấy đáng ngờ khi hiện nay trên phạm vi quốc tế đang hình thành đồng thuận rằng “đã đến lúc phải hành động”. Đặc biệt là việc xác minh danh tính (ID verification) đang được thúc đẩy đồng thời qua nhiều con đường khiến tôi bất an

  • Có thể cả hai điều đều đúng cùng lúc. Cần ngăn trẻ em bị phơi bày trước các thuật toán quảng cáo, nhưng giải pháp không được dẫn tới một chế độ giám sát quy mô lớn
  • Vấn đề không phải là quản chế người dùng, mà là phải quản lý chính ngành công nghiệp mạng xã hội. Người dùng không có tiền để vận động hành lang, còn doanh nghiệp thì đổ vào đó hàng tỷ USD
  • Có người nói Meta đã chi 2 tỷ USD cho vận động hành lang nhằm thúc đẩy chính sách xác minh danh tính này (bình luận liên quan)
  • Điều thú vị là dạo này Gen Z lại dùng mạng xã hội cẩn trọng hơn nhiều
    Con tôi ở tuổi teen và bạn bè của chúng hầu hết chỉ dùng các nhóm chat riêng tư, còn mạng xã hội gần như chỉ để ‘đọc mà thôi’. Chúng không đăng ảnh hay thông tin cá nhân
    Ngược lại, bên phơi bày quá mức lại là thế hệ Millennials. Nhìn cách họ chia sẻ quá đà ảnh gia đình và đời tư mà thấy ngượng thay
  • Nhìn việc xu hướng này diễn ra đồng thời với E2EE và việc hạn chế điện toán đa dụng, thì phương hướng của phương Tây cũng chẳng khác Trung Quốc là bao

• Vụ kiện của bang New Mexico xuất phát từ việc điều tra nền tảng Meta bằng các hồ sơ giả mạo đóng vai tài khoản trẻ em, và thực tế đã có đàn ông trưởng thành tiếp cận rồi đưa ra gợi ý tình dục
  Theo nội dung bài báo, có vẻ E2EE không phải là điểm tranh cãi cốt lõi. Meta đã thông báo dừng E2EE trong lúc xét xử, nhưng mối liên hệ trực tiếp thì chưa rõ

  • Dù vậy, trong nhiều năm qua vẫn có áp lực yêu cầu vô hiệu hóa E2EE với lý do nó làm khó việc phát hiện tội phạm xâm hại tình dục trẻ em. Khả năng cao quyết định lần này cũng nằm trên cùng một quỹ đạo đó
    Một cách diễn giải khác là đây có thể là thay đổi phát sinh khi Meta từ bỏ kế hoạch hợp nhất nhắn tin giữa WhatsApp, Facebook và Instagram

• Chúng ta không muốn xác minh độ tuổi, và muốn có E2EE. Nhưng vì ghét Meta nên lại hoan nghênh phán quyết này. Thực tế thì không thể có cả hai cùng lúc

  • Hai việc này là riêng biệt. Xác minh độ tuổi thậm chí còn gây hại lớn hơn. Nó cũng không giúp giải quyết vấn đề thực tế
  • Có hai nhóm người phản đối xác minh độ tuổi: những người phản đối về nguyên tắc, và những người phản đối vì biết rằng việc triển khai thực tế sẽ bị lạm dụng
  • Không thể lấy việc không có nghĩa vụ pháp lý để che chắn cho mọi thứ. Meta đã gần như biết tuổi của hầu hết người dùng rồi
    Nếu một người dùng 40 tuổi nhắn tin hằng ngày cho một người 13 tuổi, thì việc nhận diện điều đó là rất quan trọng. Meta biết những chuyện như vậy nhưng chỉ tập trung vào né tránh trách nhiệm
    Dù sao thì E2EE của Meta nhiều khả năng cũng có cửa hậu
  • Lập luận cho rằng không thể có cả hai cùng lúc vẫn chưa đủ cơ sở

• Meta đã biết về tính gây hại của sản phẩm thông qua nghiên cứu nội bộ nhưng vẫn phớt lờ. Giờ khi lá chắn bảo vệ của Section 230 đang yếu đi, tôi lo rằng các công ty khác sẽ rút ra bài học là “tốt hơn hết đừng nghiên cứu gì cả”
  Meta từng ra vẻ coi trọng ‘an toàn’ để thu hút nhân tài, nhưng trên thực tế lúc nào cũng ưu tiên tăng trưởng
  Trong vài năm gần đây, cả Meta lẫn X đều chặn quyền truy cập của các nhà nghiên cứu bên ngoài, trở nên đóng kín dữ liệu hơn

• Những khoản phạt như thế này phải đủ lớn để buộc doanh nghiệp thay đổi hành vi thì mới có tác dụng. 375 triệu USD ở quy mô của Meta chỉ như một bút toán kế toán

  • Đây mới chỉ là phán quyết ở bang New Mexico. Meta bị phạt tối đa 5.000 USD cho mỗi vi phạm trong hàng nghìn vi phạm, và tại Los Angeles cũng đang có vụ kiện tương tự về tính gây nghiện
  • Đúng vậy, New Mexico chỉ là một bang nhỏ, và những vụ kiện tương tự sẽ tiếp tục xuất hiện ở các bang khác

• Mạng xã hội dành cho trẻ em thì phụ huynh phải trực tiếp giám sát. E2EE đã tồn tại rồi và cũng không thể xóa bỏ. Ai muốn thì đều có thể tự tạo một dịch vụ chat mã hóa riêng

• Khoản phạt này chỉ tương đương khoảng 0,6% lợi nhuận hằng năm của Meta.
  Nếu cả 50 bang cùng kiện theo cùng tỷ lệ thì có thể thành cú đánh 30%. Nếu kiện với số tiền lớn hơn thì đó sẽ là một án phạt mang tính lịch sử. Cần mở rộng ra toàn cầu

  • Đúng vậy, tại sao lại chỉ giới hạn ở 50 bang của Mỹ. Cả thế giới nên cùng làm

• Khoản phạt này quá nhỏ. Thiếu mất vài số 0

  • Nói chính xác thì đây gần như không phải tiền phạt mà là một khoản phí (fee)