- Vào một cuối tuần tháng 2/2021, trong bối cảnh đại dịch, y tá đề nghị chụp video/ảnh gửi sang để bác sĩ xem trước nhằm hỗ trợ khám cấp cứu
- Vì chỗ đau của em bé là ở một "vùng nhạy cảm", người cha đã chụp ảnh sao cho nhìn rõ và gửi đi; sau khi bác sĩ xác nhận, thuốc kháng sinh được kê ngay nên vấn đề nhanh chóng được giải quyết
- Tuy nhiên, chính những bức ảnh đó khiến thuật toán của Google xác định anh là người trao đổi CSAM (tài liệu lạm dụng trẻ em), và tài khoản Google của anh bị đình chỉ
- Gmail dùng hơn 10 năm, Google Calendar, ảnh và video sao lưu trên Google Cloud, còn điện thoại dùng Google Fi
- Trớ trêu là chính Mark cũng là kỹ sư phần mềm tại một công ty công nghệ, làm công cụ tự động xóa nội dung video bị người dùng gắn cờ
- Vì thế anh nghĩ rằng đằng sau các quy trình này vẫn có con người để ngăn máy tính mắc sai lầm, và nếu có người xem xét thì vấn đề sẽ được giải quyết
- Anh gửi email giải thích, nhưng Google trả lời rằng sẽ không khôi phục tài khoản và không đưa ra thêm lời giải thích nào
- Toàn bộ lịch sử email, ảnh, danh bạ đều mất, và anh còn phải đổi cả số điện thoại
- Mark không hề biết rằng đội ngũ kiểm duyệt của Google đã báo cáo các hình ảnh anh tạo, khiến cảnh sát San Francisco bắt đầu điều tra anh
- Một trường hợp tương tự cũng xảy ra với một người tên Cassio ở Texas
- Năm 2021, số báo cáo CSAM gửi đến Google vượt quá 600.000 vụ, và 270.000 tài khoản đã bị vô hiệu hóa
- Năm 2009, Microsoft phát triển công nghệ PhotoDNA, và đến năm 2018 Google phát triển công cụ AI có thể nhận diện hình ảnh CSAM
- Nhiều công ty, bao gồm Facebook, đang sử dụng công nghệ này
- Tháng 12/2021, Mark nhận được thư từ cảnh sát San Francisco
- Trong đó có thông báo rằng anh từng bị điều tra, kèm bản sao lệnh khám xét đã gửi cho Google
- Mọi thứ trong tài khoản Google của Mark đều đã bị điều tra, bao gồm tìm kiếm web, lịch sử vị trí, tin nhắn, tài liệu, ảnh và video
- Cuộc khám xét này được thực hiện chỉ một tuần sau khi anh chụp những bức ảnh vào tháng 2
- Khi Mark liên lạc với điều tra viên, anh được biết vụ việc đã khép lại vì không có dấu hiệu phạm tội
- Điều tra viên nói họ đã muốn liên lạc với Mark nhưng không thể gọi điện hay gửi email cho anh được (vì tài khoản đã bị đình chỉ)
- Mark hỏi liệu có thể khôi phục tài khoản Google thông qua phía điều tra hay không, nhưng được trả lời rằng anh phải "nói chuyện với Google"
- Anh nộp báo cáo cảnh sát này cho Google nhưng vẫn vô ích
- Cassio cũng được kết luận tương tự, nhưng tài khoản Google của anh cũng không thể khôi phục
- Liệu AI có thể phân biệt được giữa hình ảnh y tế và hình ảnh lạm dụng hay không?
8 bình luận
Cuối cùng, tin này cũng đã được đưa trên báo trong nước với dẫn nguồn từ The New York Times.
"Google quy chụp người cha chụp ảnh bộ phận sinh dục của con trai sơ sinh để khám bệnh là tội phạm tình dục"
Giống như việc các nhà khoa học đã bắt đầu tự giám sát khoa học sau khi chứng kiến bom hạt nhân 70 năm trước, có lẽ giờ cũng là lúc các lập trình viên cần sự tự giám sát đối với các tập đoàn công nghệ lớn.
Đến mức này thì chẳng phải đáng để kiện sao..?
Theo bài viết gốc được lưu trữ, Mark cũng đã tham khảo ý kiến luật sư về việc liệu anh có thể kiện Google hay không, nhưng có vẻ anh đã từ bỏ sau khi biết chi phí sẽ vào khoảng 7.000 USD.
Tình huống này có vẻ là có quỳ lạy xin lỗi cũng vẫn chưa đủ....
Chà, chuyện này ngược lại có vẻ như phải được bồi thường vì đã gây thiệt hại mới đúng, hay là họ xử lý như vậy để ém nhẹm chuyện đó?
Cách phản ứng hay xử lý của Google đúng là quá kém..
Apple giới thiệu các tính năng an toàn mới để bảo vệ trẻ em
Apple lấy làm tiếc về tranh cãi "quét iPhone"