- Các tài liệu tòa án mới được công bố cho thấy dấu hiệu Meta nhận thức được các vấn đề an toàn trẻ em nhưng đã giảm nhẹ hoặc che giấu rủi ro
- Theo lời khai nội bộ, đã tồn tại chính sách nương tay với các tài khoản liên quan đến mại dâm với quy định ‘đình chỉ sau 17 lần vi phạm’, và quy trình báo cáo bóc lột tình dục trẻ em cũng phức tạp
- Tài liệu bao gồm nhiều kết quả nghiên cứu nội bộ về sự xấu đi của sức khỏe tâm thần thanh thiếu niên, tiếp xúc không phù hợp giữa người lớn và trẻ vị thành niên, thuật toán gây nghiện và nhiều vấn đề khác
- Meta bị cho là đã không công khai các kết quả nghiên cứu này với Quốc hội hay công chúng, đồng thời trì hoãn việc triển khai các tính năng bảo vệ thanh thiếu niên trong nhiều năm
- Vụ kiện lần này là một vụ kiện tập thể quy mô lớn với hơn 1.800 nguyên đơn và nhiều chính quyền bang tham gia, trở thành chất xúc tác làm gia tăng tranh luận về trách nhiệm bảo vệ thanh thiếu niên của Big Tech
Tổng quan vụ kiện
- Hồ sơ từ phía nguyên đơn nộp lên Tòa án Quận Bắc California cáo buộc Meta biết rõ những tác hại nghiêm trọng trên nền tảng của mình nhưng đã giảm nhẹ hoặc che giấu chúng
- Lập luận dựa trên tài liệu nội bộ, lời khai của các cựu và đương nhiệm lãnh đạo, cùng tài liệu nghiên cứu trong công ty
- Vụ kiện bao gồm các công ty mẹ của Instagram, TikTok, Snapchat, YouTube, với hơn 1.800 nguyên đơn tham gia
- Nguyên đơn cho rằng các công ty này đã phớt lờ sức khỏe tinh thần và thể chất của trẻ em vì “chiến lược ưu tiên tăng trưởng”
Cáo buộc liên quan đến mại dâm và báo cáo bóc lột tình dục trẻ em
- Dù Instagram tuyên bố áp dụng chính sách ‘zero tolerance’ đối với nội dung bóc lột tình dục trẻ em, phía nguyên đơn cho rằng người dùng không có cách đơn giản để báo cáo việc này
- Một cựu nhân sự phụ trách an toàn của Instagram làm chứng rằng có chính sách chỉ đình chỉ các tài khoản liên quan đến mại dâm sau 17 lần vi phạm
- Người phát ngôn Meta bác bỏ cáo buộc, nói rằng các tài khoản bị nghi liên quan đến buôn người hoặc bóc lột đều bị xóa ngay lập tức
Cáo buộc đánh lừa Quốc hội và che giấu nghiên cứu về sức khỏe tâm thần
- Nghiên cứu nội bộ cho thấy việc sử dụng Instagram và Facebook làm gia tăng lo âu và trầm cảm ở thanh thiếu niên
- Trong nghiên cứu ‘deactivation’ năm 2019, khi ngừng sử dụng, mức độ lo âu, trầm cảm và cô đơn giảm xuống, nhưng Meta đã dừng nghiên cứu và không công bố kết quả
- Trong phiên chất vấn của Thượng viện năm 2020, khi được hỏi liệu có mối tương quan giữa việc sử dụng và trầm cảm, lo âu ở thanh thiếu niên hay không, công ty đã trả lời “không (No)”
- Phía nguyên đơn cho rằng điều này cho thấy “Meta đã nói dối Quốc hội”
Cáo buộc bỏ mặc tiếp xúc không phù hợp giữa người lớn và thanh thiếu niên
- Năm 2019, nhóm nghiên cứu đề xuất chuyển tài khoản thanh thiếu niên sang chế độ riêng tư mặc định, nhưng nhóm tăng trưởng phản đối vì lo ngại mức độ tham gia sẽ giảm
- Ước tính việc chuyển sang riêng tư có thể làm giảm 1,5 triệu người dùng thanh thiếu niên mỗi năm
- Theo phân tích nội bộ, nếu áp dụng cài đặt riêng tư, có thể loại bỏ 5,4 triệu tương tác không mong muốn mỗi ngày
- Tuy nhiên, Meta chỉ triển khai toàn diện vào năm 2024, và trong khoảng thời gian đó đã phát sinh hàng tỷ lượt tiếp xúc không phù hợp
- Meta phản bác rằng từ năm 2021, công ty đã chuyển các tài khoản dưới 16 tuổi sang riêng tư
Chiến lược tập trung thu hút người dùng thanh thiếu niên
- Theo tài liệu nội bộ, “giành lấy thời gian sử dụng của tuổi teen” đã được đặt làm mục tiêu trọng tâm từ sau năm 2017
- Meta đã hợp tác với trường học, PTA, Scholastic và các tổ chức khác để quảng bá tới học sinh
- Nghiên cứu nội bộ cho thấy công ty biết có người dùng dưới 13 tuổi, và tính đến năm 2018, 40% trẻ từ 9 đến 12 tuổi dùng Instagram mỗi ngày
- Một số nhân viên chỉ trích rằng “nhắm vào trẻ 11 tuổi giống chiến lược của các công ty thuốc lá”
- Tính đến năm 2022, có 216 triệu người dùng chưa được xác minh độ tuổi
Nỗ lực ‘giảm tác hại’ của Instagram bị hủy bỏ
- Tính năng ẩn lượt thích năm 2019 (Project Daisy) có tác dụng cải thiện lòng tự trọng của người dùng, nhưng đã bị dừng vì lo ngại sụt giảm doanh thu quảng cáo
- Beauty filter được xác nhận có nguy cơ làm trầm trọng thêm sự bất mãn về cơ thể và rối loạn ăn uống, nhưng lại được đưa trở lại vì lo ngại các chỉ số tăng trưởng đi xuống
- Nhóm nghiên cứu đã phát triển bộ phân loại AI để chặn nội dung kích thích so sánh ngoại hình, nhưng ban lãnh đạo đã dừng dự án
Thiếu sót trong việc tự động xóa nội dung độc hại
- AI của Meta không tự động xóa nội dung về tự sát, rối loạn ăn uống, bóc lột tình dục trẻ em ngay cả khi đạt mức chắc chắn 100%
- Nội dung cổ xúy tự hại chỉ bị xóa khi mức chắc chắn đạt 94%
- Trong khảo sát nội bộ năm 2021, hơn 8% người dùng từ 13 đến 15 tuổi cho biết đã nhìn thấy bài đăng liên quan đến tự hại trong vòng một tuần gần nhất
- Meta cho biết khối lượng phát hiện và báo cáo nội dung bóc lột tình dục trẻ em của họ là lớn nhất ngành, đồng thời kết hợp AI và kiểm duyệt viên con người để tránh false positive
Cáo buộc nhận thức rõ tính gây nghiện nhưng giảm nhẹ mức độ
- Một nhà nghiên cứu nội bộ mô tả Instagram “giống như ma túy”
- Khảo sát năm 2018 cho thấy 58% người dùng tại Mỹ từng trải qua ‘việc sử dụng có vấn đề’, nhưng chỉ 3,1% trong số đó được nhắc đến trong báo cáo công khai
- Các tính năng giới hạn sử dụng như Quiet Mode đã bị trì hoãn vì lo ngại ảnh hưởng xấu đến các chỉ số tăng trưởng
- Nhóm nghiên cứu từng nêu ý kiến rằng “sản phẩm khai thác tâm lý con người để kéo dài thời gian sử dụng” và cần được công khai, nhưng Meta đã không thực hiện
Lập trường chính thức của Meta
- Meta phủ nhận toàn bộ, cho rằng đây là “những cáo buộc méo mó dựa trên các trích dẫn được lựa chọn và sự hiểu sai”
- Công ty nhấn mạnh rằng trong hơn 10 năm qua đã thúc đẩy cải tiến như tăng cường tính năng bảo vệ thanh thiếu niên, cung cấp công cụ kiểm soát của phụ huynh, triển khai Teen Accounts
- Teen Accounts được giới thiệu trong năm 2024 bao gồm tự động đặt riêng tư cho người dùng 13–18 tuổi, chặn thông báo ban đêm, hạn chế tin nhắn từ người lớn, và tính năng cần phụ huynh phê duyệt
Kết luận
- Tài liệu từ phía nguyên đơn đưa ra bằng chứng nội bộ cho thấy Meta đã ưu tiên tăng trưởng và doanh thu hơn an toàn của thanh thiếu niên
- Meta phản bác rằng các tính năng an toàn vẫn đang liên tục được tăng cường
- Vụ kiện lần này được chú ý như tranh chấp trọng tâm xoay quanh trách nhiệm bảo vệ trẻ em và vấn đề minh bạch của các công ty mạng xã hội
1 bình luận
Ý kiến trên Hacker News
Người phát ngôn của Meta nói rằng “trong hơn 10 năm qua, chúng tôi đã lắng nghe ý kiến phụ huynh và thực hiện các thay đổi để bảo vệ thanh thiếu niên”, nhưng với tôi điều đó nghe chẳng khác nào công ty thuốc lá tạo bộ lọc rồi nói họ quan tâm đến sức khỏe
Hầu hết mọi người đều biết Meta là một công ty đã làm nhiều điều khủng khiếp
Nhưng điều tôi thực sự muốn biết là có gì đang thay đổi trên thực tế. Cho đến nay chỉ toàn là tiền phạt và các biện pháp chế tài mang tính hình thức. Tôi muốn hỏi liệu có kế hoạch thực chất nào để chấm dứt tình trạng này hay không
Lý do những doanh nghiệp như vậy có thể tồn tại rốt cuộc là vì các lập trình viên đã khiến điều đó khả thi về mặt kỹ thuật
Nếu chúng ta bất mãn, thì nên nói mọi người rời bỏ những công ty như vậy. Có nhiều tiền không có nghĩa là có giá trị
Nhưng nếu Mỹ đóng cửa toàn bộ các công ty mạng xã hội khổng lồ như Meta, sẽ có rất nhiều lập trình viên mất việc
Về gốc rễ, cấu trúc khuyến khích của hệ thống chính phủ đã bị cố định theo hướng lấy tư bản làm trung tâm
Dù sửa vấn đề y tế hay nhà ở thì cuối cùng các công ty bảo hiểm hay ngành bất động sản vẫn là bên hưởng lợi
Việc ra quyết định gắn rất lỏng với ý chí của công dân, trong khi liên kết với tư bản lại quá mạnh
Nếu không thay đổi điều này, mọi thay đổi cuối cùng cũng chỉ dừng ở mức làm màu bề ngoài
Tôi nghĩ cần chuyển sang dân chủ trực tiếp, nhưng đa số cho rằng điều đó không thực tế
Dù vậy, các cải cách thể chế như bỏ phiếu xếp hạng có thể là một điểm khởi đầu nhỏ
Như nhiều người đã biết, công việc của những công ty kiểu này là thu thập dữ liệu nhưng không phân tích tác động ra bên ngoài
Nói cách khác, lợi nhuận và tác động tiêu cực gắn chặt không thể tách rời
Có lẽ tiền thưởng và quyền chọn cổ phiếu đã lấn át cảm giác tội lỗi
Mô hình kinh doanh của Meta đi ngược hoàn toàn với hạnh phúc của con người
Có người nhắc đến chuỗi thảo luận trước đó và hỏi: “Có phải đây là cùng một nội dung không?”
Tôi bị sốc khi biết Meta có chính sách “tài khoản liên quan đến buôn người sẽ bị đình chỉ sau 17 lần vi phạm”
Họ chỉ trích rằng: “Tới 16 lần thì chỉ cảnh cáo thôi sao, đây là cái quy định điên rồ gì vậy?”
Có lời khuyên rằng trước khi đăng bài mới, hãy kiểm tra xem đã có thảo luận nào tồn tại chưa
Có người chia sẻ liên kết thảo luận hiện có và nói: “Đây là bài trùng”
Tôi nghĩ Meta là thuốc lá của thời đại này. Nhân viên của họ nên cảm thấy xấu hổ
Đây là một trong những tổ chức lớn nhất đang gây hại cho sức khỏe tinh thần của thanh thiếu niên, đặc biệt là các bé gái tuổi teen
Mạng xã hội rồi sẽ được các thế hệ tương lai nhìn nhận là thứ độc hại như thuốc lá hay rượu
Đặc biệt, sức khỏe tinh thần của các bé gái tuổi teen đang xấu đi nhanh chóng
Bộ lọc, nền tảng fan, áp lực ngoại hình đang làm gia tăng lo âu và thực sự đe dọa đến tính mạng