- Dự luật quét CSAM của EU có thể buộc các dịch vụ nhắn tin tự động kiểm tra thông tin liên lạc của người dùng, khiến vấn đề vượt ra ngoài biện pháp bảo vệ trẻ em và trở thành câu chuyện thay đổi ranh giới của các quyền cơ bản trong xã hội dân chủ
- Dự luật có thể yêu cầu phát hiện CSAM đã biết, chưa biết và cả hành vi dụ dỗ trẻ em theo thời gian thực; các nhà phê bình lo ngại thông tin liên lạc riêng tư của mọi người dùng sẽ bị đưa vào một mạng lưới giám sát không nhắm mục tiêu
- Vấn đề pháp lý không chỉ dừng ở tính tương xứng mà còn liên quan đến việc có xâm phạm bản chất của các quyền cơ bản hay không; Frederik Borgesius cho rằng việc truy cập nội dung thông tin liên lạc trên quy mô lớn có thể làm tổn hại bản chất của quyền riêng tư
- Phát hiện bằng AI và quét phía client chưa đủ sẵn sàng để triển khai trên quy mô lớn, và do khả năng dương tính giả, né tránh, thao túng, chúng có thể gây thiệt hại ngoài ý muốn cho cả trẻ em lẫn người lớn
- Các phương án thay thế được nêu gồm bảo vệ mã hóa đầu cuối, điều tra có mục tiêu, thu thập dữ liệu từ tài liệu web công khai, tăng cường phòng ngừa, hỗ trợ nạn nhân và hợp tác thực thi pháp luật; các nhà lập pháp EU đang ở tình thế phải viết lại căn bản các điều khoản về lệnh phát hiện
Các vấn đề cốt lõi trong đề xuất quét CSAM của EU
- Dự luật quét CSAM đang được thảo luận ở châu Âu có thể yêu cầu các dịch vụ nhắn tin kiểm tra nội dung liên lạc của người dùng
- Đối tượng bao gồm CSAM đã biết, CSAM chưa biết và cả phát hiện hành vi dụ dỗ trẻ em theo thời gian thực
- Trong các ứng dụng nhận lệnh phát hiện, mọi thông tin liên lạc của người dùng có thể bị giám sát theo cách tự động và không nhắm mục tiêu
- Tại hội thảo do European Data Protection Supervisor tổ chức, hơn 20 diễn giả đã phản đối đề xuất này
- Hội thảo kéo dài khoảng 3 giờ
- Ylva Johansson của European Commission được mời nhưng không tham dự, và cũng không có đại diện nào khác của Commission tham dự
- Commission lâu nay lập luận rằng đề xuất này là phản ứng tương xứng và có mục tiêu trước một vấn đề đang gia tăng
- Gần đây cũng có chỉ ra các dấu hiệu cho thấy Commission đã dùng quảng cáo microtargeting để quảng bá kế hoạch này
- EU cũng đang thúc đẩy một dự luật riêng nhằm hạn chế việc sử dụng microtargeting trong chính trị
Bước ngoặt về quyền riêng tư mà EDPS cảnh báo
- Wojciech Wiewiórowski của EDPS cảnh báo rằng nếu một luật bắt buộc giám sát hàng loạt có hệ thống đối với nhắn tin riêng tư được thông qua, EU có thể đi tới điểm không thể quay lại
- Đề xuất này không chỉ là vấn đề “bảo vệ trẻ em”, mà còn là vấn đề làm lung lay nền tảng vận hành của quyền riêng tư trong xã hội dân chủ
- Nếu được thông qua mà không sửa đổi, nó có thể thay đổi căn bản bản chất của Internet và truyền thông số
- EDPS và European Data Protection Board từng nêu trong ý kiến chung một năm trước rằng dự luật này làm dấy lên những lo ngại nghiêm trọng về bảo vệ dữ liệu và quyền riêng tư, bao gồm cả mã hóa
Tính tương xứng pháp lý và vấn đề bản chất quyền cơ bản
- Commission đã trình dự thảo luật CSAM vào tháng 5/2022, và kể từ đó phản đối về tác động nhân quyền và tính hợp pháp ngày càng tăng
- Luật EU yêu cầu mọi hạn chế đối với các quyền cơ bản như quyền riêng tư và tự do biểu đạt phải là cần thiết và tương xứng
- Việc áp đặt nghĩa vụ giám sát nội dung chung cho các nền tảng trực tuyến là bị cấm
- Một đạo luật khiến tin nhắn của hàng trăm triệu người châu Âu trở thành đối tượng bị giám sát ngay từ thiết kế có thể xung đột với nguyên tắc này
- Frederik Borgesius của Radboud University đánh giá rằng đề xuất này không phải là cách hạn chế quyền cơ bản một cách tương xứng
- Ông lấy các vụ lưu giữ dữ liệu liên quan đến khủng bố làm đối chiếu, và chỉ ra rằng tòa án tối cao của EU đã nhiều lần vô hiệu hóa việc lưu trữ chung và không phân biệt đối với metadata của người châu Âu
- Đề xuất lần này xử lý phân tích nội dung thông tin liên lạc chứ không phải metadata, nên vấn đề còn nghiêm trọng hơn
- Borgesius cho rằng theo góc nhìn của Hiến chương các quyền cơ bản của EU, nếu bản chất của quyền cơ bản bị xâm phạm thì có thể là bất hợp pháp ngay cả khi không cần kiểm tra tính tương xứng
- Nếu nhà chức trách có thể truy cập nội dung thông tin liên lạc trên quy mô lớn, điều đó liên quan đến việc xâm phạm bản chất của quyền riêng tư
Mục tiêu bảo vệ trẻ em và khả năng gây hại trong thực tế
- Nhiều diễn giả phê phán rằng đề xuất này không phù hợp với vấn đề xã hội phức tạp là lạm dụng tình dục trẻ em
- Một phần đáng kể hình ảnh tình dục liên quan đến trẻ vị thành niên được chia sẻ trực tuyến có thể bắt nguồn từ sexting giữa các trẻ vị thành niên có đồng thuận
- Trong trường hợp này, dự luật có thể dẫn đến việc điều tra hoặc hình sự hóa trẻ em đang khám phá bản dạng tình dục của mình
- Việc xác định có phải CSAM hay không khó có thể chỉ dựa vào bản thân hình ảnh; bối cảnh là quan trọng
- Arda Gerkens của Hà Lan cho rằng việc quét thông tin liên lạc riêng tư có thể phát hiện các tình huống có vấn đề, nhưng không phải là giải pháp để ứng phó với lạm dụng tình dục trẻ em
- Bà ủng hộ cách quét hẹp CSAM đã biết trên các website lưu trữ hình ảnh để ngăn lan truyền
- Tuy nhiên, bà xem việc này nhằm mục đích ngăn phát tán, không phải để truy tố
- Gerkens chỉ ra rằng đề xuất của Commission tập trung quá mức vào thông tin liên lạc riêng tư và truy tố tiếp theo, thay vì các website lưu trữ hình ảnh
- Khối lượng hình ảnh có thể làm quá tải các hệ thống hiện có và tạo thêm áp lực lớn hơn lên hệ thống thực thi pháp luật vốn mong manh
- Tăng cường hợp tác giữa các quốc gia EU và hệ thống thực thi pháp luật có thể là khoản đầu tư tốt hơn
Mã hóa đầu cuối và cách tiếp cận lấy phòng ngừa làm trọng tâm
- Susan Landau của Tufts University cho rằng đề xuất của Commission không phân biệt được các loại lạm dụng và bóc lột tình dục trẻ em khác nhau xảy ra trên Internet
- Cách tiếp cận tập trung vào điều tra và truy tố có thể gặp giới hạn trong nhiều trường hợp
- Trong phần áp đảo các vụ mại dâm dựa trên Internet, thủ phạm là người thân cận với nạn nhân, và nạn nhân có thể không muốn báo cáo
- Điều cần thiết là những không gian giúp trẻ em an toàn, không gian cộng đồng, giáo dục an toàn trực tuyến, đào tạo bảo mật và thiết kế an toàn
- Landau cho rằng có nhiều phương pháp phòng ngừa và điều tra lạm dụng tình dục trẻ em không bị ảnh hưởng bởi mã hóa đầu cuối
- Mã hóa đầu cuối là công nghệ bảo vệ cả trẻ em lẫn người lớn
- Helen Charles của WhatsApp cho biết nền tảng nhắn tin thuộc sở hữu Meta ủng hộ mục tiêu ứng phó lạm dụng tình dục trẻ em, nhưng cách tiếp cận của Commission không phù hợp với vấn đề và có thể gây những hệ quả ngoài ý muốn lớn cho người dùng web ở mọi lứa tuổi
- Quét nội dung nhắn tin được mã hóa đầu cuối làm suy yếu các quyền cơ bản
- Cần có những điều kiện hợp lý và tương xứng để dịch vụ có thể ứng phó với CSAM mà không cần truy cập nội dung tin nhắn
- Charles đề xuất cho phép nền tảng tận dụng nhiều hơn dữ liệu lưu lượng, tức metadata, cho mục đích phòng ngừa theo ePrivacy Directive của EU
- Ngoại lệ ePrivacy tạm thời hiện nay chỉ xử lý việc phát hiện, báo cáo và xóa CSAM trong các tin nhắn không được mã hóa đầu cuối, không bao gồm phòng ngừa
- Meta cho biết họ dùng các kỹ thuật bao gồm dữ liệu lưu lượng để nhận diện hành vi có vấn đề ở những nơi hợp pháp
Hạn chế kỹ thuật của phát hiện bằng AI và quét phía client
- Jaap-Henk Hoepman của Karlstad University chỉ ra rằng công nghệ phát hiện CSAM mang tính độc quyền, nên khó xác minh độc lập các tuyên bố về độ chính xác
- PhotoDNA của Microsoft và NeuralHash của Apple không phải là các thuật toán công khai để giới nghiên cứu có thể nghiên cứu
- Vì vậy phải dựa vào các số liệu hiệu quả do doanh nghiệp cung cấp
- Hoepman nói rằng một nghiên cứu reverse engineering PhotoDNA đã phát hiện các khiếm khuyết cơ bản
- Có nhắc đến bằng chứng cho thấy có thể dễ dàng né phát hiện bằng cách xoay hoặc lật ảnh đối với dấu vân tay CSAM đã biết
- Kẻ tấn công có thể thao túng một hình ảnh trông vô hại để bị phát hiện là CSAM, nhằm vu khống người vô tội hoặc làm quá tải hệ thống phát hiện
- Alexander Hanff cảnh báo rằng trong bối cảnh hàng chục tỷ lượt liên lạc bị quét mỗi ngày, chỉ cần tỷ lệ lỗi 0,1% cũng có thể tạo ra hàng triệu trường hợp dương tính giả hoặc bỏ sót mỗi ngày
- Claudia Peersman của University of Bristol giới thiệu kết quả đánh giá của Rephrain Centre
- 5 dự án bằng chứng khái niệm quét CSAM trong môi trường E2EE được phát triển với hỗ trợ của chính phủ Anh đều không đáp ứng tiêu chí đánh giá
- Bà không phản đối bản thân việc phát triển công cụ bảo vệ trẻ em trực tuyến có AI hỗ trợ, nhưng cho rằng công nghệ này chưa sẵn sàng để triển khai quy mô lớn trên tin nhắn riêng tư trong môi trường mã hóa đầu cuối
- Matthew Green của Johns Hopkins University nói rằng nghiên cứu về quét phía client vẫn ở giai đoạn rất sơ khai
- Bài báo khoa học máy tính đầu tiên về chủ đề này xuất hiện vào năm 2021, và chưa đầy 2 năm sau người ta đã thảo luận về luật bắt buộc áp dụng
- Các nhà nghiên cứu vẫn tiếp tục phát hiện cách phá vỡ hệ thống này, với hậu quả có thể là xâm phạm tính bảo mật của người dùng, dương tính giả và đưa dữ liệu xấu vào hệ thống
- Cần có thời gian nghiên cứu xem liệu có thể triển khai an toàn hay không
Lập pháp thiếu quyền và tiếng nói của trẻ em
- Nhiều diễn giả phê phán rằng các nhà lập pháp chưa xử lý đầy đủ ý kiến và quyền của trẻ em
- Gerkens cho rằng trong khi phán xét những gì trẻ em làm trên mạng, người ta lại không đưa trẻ em tham gia vào quá trình lập pháp
- Sabine Witting của Leiden University đánh giá rằng đề xuất này ảnh hưởng tiêu cực đến quyền riêng tư, bảo vệ dữ liệu cá nhân, tự do biểu đạt và quyền tiếp cận thông tin của trẻ em
- General Comment No. 25 của Ủy ban Quyền trẻ em Liên Hợp Quốc xem quyền riêng tư là thiết yếu đối với an toàn của trẻ em
- Quyền riêng tư không phải là trở ngại đối với an toàn của trẻ em, mà là một tiền đề quan trọng
- Witting cho rằng nếu tin nhắn riêng tư giữa thanh thiếu niên bị quét CSAM phát hiện, bản thân quá trình điều tra có thể gây hại
- Đặc biệt với thanh thiếu niên thuộc các cộng đồng bên lề như trẻ em LGBTQ+, điều này có thể dẫn đến phơi lộ sai, bị đẩy ra bên lề hơn nữa, và trong trường hợp xấu nhất là đàn áp chính trị
- Quét thông tin liên lạc riêng tư, rà soát bổ sung của khu vực tư nhân và chính phủ, cùng sự can thiệp của cơ quan thực thi pháp luật là sự xâm phạm nghiêm trọng quyền riêng tư của trẻ em
- Ella Jakubowska của EDRi nhắc đến một khảo sát đại diện với thanh thiếu niên 13–17 tuổi tại 13 quốc gia thành viên EU
- 80% trả lời rằng nếu nhà chức trách có thể giám sát thông tin liên lạc số nhằm quét CSAM, họ sẽ không cảm thấy thoải mái khi hoạt động chính trị hoặc khám phá tình dục
Giám sát số không có lệnh khám xét và lo ngại mở rộng nhiệm vụ
- Iverna McGowan của Center for Democracy and Technology cho rằng lệnh phát hiện tương đương khám xét không có lệnh trong thế giới số
- Lập trường của bà là, cũng như không thể chấp nhận việc cơ quan thực thi pháp luật bước vào nhà hoặc không gian riêng tư để lục soát mọi thứ mà không có lệnh hoặc nghi ngờ hợp lý, điều đó cũng không thể được cho phép trong không gian trực tuyến
- McGowan cho rằng các điều khoản về lệnh phát hiện cần được viết lại căn bản
- Phải đủ chính xác để không áp dụng cho những người không bị nghi ngờ phạm tội
- Cần có phê chuẩn của cơ quan tư pháp độc lập và kiểm chứng mục đích cũng như căn cứ nghi ngờ
- Cũng phải bao gồm đánh giá tính tương xứng độc lập
- Nhiều diễn giả lo ngại khả năng mở rộng nhiệm vụ xung quanh Europol
- Theo các tài liệu mà báo chí thu thập được, Europol muốn có quyền truy cập không qua lọc đối với dữ liệu thu được theo đề xuất quét CSAM
- MEP Saskia Bricmont cho rằng Europol có mục tiêu trở thành một hub dữ liệu và mở rộng, củng cố nhiệm vụ của mình
- Đề xuất ban đầu của Commission yêu cầu mọi báo cáo không “rõ ràng là vô căn cứ” phải được gửi đồng thời cho Europol và cơ quan thực thi pháp luật quốc gia
- Bricmont cho rằng Europol đã thúc đẩy mở rộng phát hiện sang các lĩnh vực tội phạm khác ngoài CSAM
Vấn đề niềm tin giữa Commission và các nhà phê bình
- Hội thảo diễn ra hai ngày trước khi Ylva Johansson ra điều trần tại ủy ban quyền công dân của European Parliament
- Các nhà phê bình cho rằng Johansson và Commission chưa thể hiện đủ minh bạch và trách nhiệm giải trình trong đề xuất gây tranh cãi này
- Bricmont đặt vấn đề việc sử dụng chủ đề nhạy cảm là lạm dụng tình dục trẻ em để thúc đẩy một kế hoạch giám sát bao trùm có tác động lớn đến quyền cơ bản của hàng trăm triệu người châu Âu
- Bà nói cần biết thêm về bài điều tra của BalkanInsight và các xung đột lợi ích tiềm tàng
- Bà cho rằng sự vắng mặt của Commission làm gia tăng thiếu đối thoại và nghi ngờ
- Johansson trong một bài blog đã phê phán các công kích cá nhân nhằm vào bà và những cáo buộc vận động hành lang thiếu minh bạch
- Bà nhắc đến việc EDRi, NGO quyền số lớn nhất châu Âu, nhận tài trợ từ Apple, và viết theo hướng cho rằng phản đối từ xã hội dân sự có thể đại diện cho lợi ích của Big Tech
- Jakubowska cho rằng Commission đang trình bày sai lựa chọn giữa quyền riêng tư và an toàn
- Quyền riêng tư và an toàn củng cố lẫn nhau
- Bà cảnh báo cũng có rủi ro đối với bảo mật nghề nghiệp, chẳng hạn đặc quyền bảo mật giữa luật sư và thân chủ, và điều này có thể cản trở khả năng tiếp cận công lý của người sống sót
Giải pháp thay thế: điều tra có mục tiêu, dọn dẹp tài liệu công khai, thiết kế an toàn
- MEP Patrick Breyer mô tả đề xuất này là “chưa từng có trong thế giới tự do” và gọi nó là “Chatcontrol”
- Ông cho rằng thay vì phân cực cuộc tranh luận, nên giữ lại những phần mọi người có thể đồng thuận và bổ sung các cách tiếp cận mới, hiệu quả
- Hướng đi Breyer đề xuất là loại bỏ lệnh phát hiện, điểm cốt lõi gây tranh cãi, và nhắm mục tiêu
- Quét thông tin liên lạc phải được giới hạn nghiêm ngặt ở những người bị cho là có liên quan đến bóc lột tình dục trẻ em
- Phát hiện tự nguyện không nhắm mục tiêu cũng có cùng vấn đề về tính tương xứng như phát hiện bắt buộc
- Phải loại trừ rõ ràng việc quét phía client biến thiết bị cá nhân thành máy quét
- Như một giải pháp thay thế cho giám sát hàng loạt, có đề xuất thu thập trước các tài liệu có thể truy cập công khai
- Cách này được nhắc là đã được thực hiện tại Anh và Canada
- EU Centre mới có thể tập trung vào dọn dẹp web công khai, phòng ngừa tội phạm, hỗ trợ nạn nhân và các thông lệ tốt nhất trong thực thi pháp luật
- Breyer cho rằng nên tập trung vào thiết kế an toàn thay vì xác minh độ tuổi bắt buộc
- Ông đặt ra các câu hỏi thiết kế như có nên giới hạn hồ sơ ở chế độ riêng tư theo mặc định hay không, có nên cho phép bất kỳ ai gửi ảnh cho người dùng mới hay không, và có nên để người dùng chọn có xem ảnh khỏa thân hay không
- Trong phòng ngừa lạm dụng tình dục trẻ em, chỉ cách tiếp cận kỹ thuật là không đủ; các giải pháp phi kỹ thuật rất quan trọng
- Nếu các nhà lập pháp không sửa đổi hợp lý, nhắn tin riêng tư thật sự bí mật và mã hóa an toàn có thể chấm dứt, mở đường cho việc đưa các phương thức độc đoán chưa từng có vào nền dân chủ
1 bình luận
Các ý kiến trên Hacker News
“Chính việc có người xem những hình ảnh này đã là hành vi mà ủy ban đang cố ngăn chặn, và bản thân nó là một dạng lạm dụng. Vì vậy, nếu lấy những bức ảnh vô hại được chia sẻ giữa các cá nhân đồng thuận rồi, trong quá trình điều tra, có khả năng phơi chúng ra trước hàng trăm người, thì rốt cuộc là thực sự tạo thêm nhiều nạn nhân hơn”
Đây là vấn đề cốt lõi. Kế hoạch này không chỉ có nhiều tác dụng phụ, mà sẽ thực sự gây hại cho chính những người mà nó muốn bảo vệ
Nói nghiêm túc thì, mỗi khi ai đó biện minh cho hành động bằng kiểu kêu gọi cảm xúc một chiều như “hãy nghĩ đến trẻ em” hay “hãy nghĩ đến khủng bố”, tôi chỉ thấy đó là trò thao túng rẻ tiền
Tôi cho rằng phe ủng hộ phải chứng minh lập luận về an toàn bằng các con số cụ thể. Họ đang yêu cầu chúng ta từ bỏ quá nhiều thứ mà không chịu trách nhiệm, và tôi không nghĩ thiệt hại nhỏ hơn lợi ích
Ví dụ, Patriot Act không tạo ra một làn sóng trấn áp khủng bố nào, mà ngược lại còn khiến các vi phạm nhân quyền quy mô lớn trở nên dễ dàng hơn, nhưng những quyền đã bị tước đi thì không quay lại. Việc an ninh sân bay được tăng cường mạnh cũng tương tự; tôi không biết có bao nhiêu tên khủng bố bị bắt vì mang theo bấm móng tay, nhưng có vẻ phần lớn các âm mưu khủng bố có thể bị ngăn chặn bằng những cách ít xâm phạm hơn
Tệ hơn một bậc là những người phải tìm các dạng vi phạm điều khoản dịch vụ kinh khủng trong bài đăng mạng xã hội: hình ảnh bạo lực cực đoan, máu me và hành vi tàn bạo. Nhiều người làm những công việc đó cần rất nhiều trị liệu để chịu đựng, nhưng đáng tiếc là có vẻ không ít người không được tiếp cận trị liệu
Nếu phải nhìn CSAM bị nghi ngờ suốt cả ngày và quyết định cho phép/không cho phép thì sao? Thật khó tưởng tượng điều đó sẽ tác động đến con người thế nào
CSAM chỉ là màn khói. Mục tiêu là giám sát, và nếu họ cưỡng ép thông qua được việc này, nó sẽ nhanh chóng mở rộng để bao trùm tất cả mọi thứ
Thành thật mà nói, giờ tôi không còn xem EU là một lợi ích công nữa. Thực ra đã khá lâu rồi, và nó đã thoái hóa thành một chế độ kỹ trị quan liêu
Trước khi ai đó định nói “bạn có thể bỏ phiếu cho nghị viện, và cũng có thể bỏ phiếu cho một trong các thành viên ủy ban, nên mọi thứ ổn mà”, tôi biết. Nhưng như vậy cũng chẳng cải thiện gì. Trong cách triển khai hiện nay, dân chủ quá gián tiếp đến mức gần như có thể bỏ hẳn. Những dự luật kiểu này sẽ cứ được tung ra liên tục cho đến khi một cái lọt lưới. Không thể ủng hộ được
Cần phải ngăn chặn, nhưng tôi sợ rằng cuối cùng nó sẽ xảy ra ở đâu đó. Một khi được triển khai ở một số nước phương Tây, các nước khác sẽ có bản thiết kế để sao chép. Công dân ở khắp nơi đang bị lừa, và không chỉ người ngoài ngành kỹ thuật mà ngay cả nhiều người làm kỹ thuật cũng nghĩ đây là điều tốt. Bạn bè của tôi ở Mỹ, Anh, Úc cũng đang vỗ tay hoan nghênh những thứ như thế vào nước họ. Vì lý do là vì trẻ em
Đáng tiếc là không ai coi vấn đề này đủ nghiêm trọng để chạy các chiến dịch quảng cáo và truyền hình quy mô lớn tại các quốc gia thành viên, nhằm giáo dục rằng điều này có hại cho tất cả mọi người và cũng không giúp ích cho trẻ em
Tôi nghĩ nỗ lực quét phía client này sẽ sụp đổ, và hơn nữa tôi hy vọng là như vậy. Không chỉ vì nó phá hoại rõ ràng các quyền tự do dân sự của công dân EU, mà còn vì ngay cả nếu được triển khai thì nó cũng chắc chắn thất bại
Ý tưởng cơ bản không hiệu quả với CSAM hay bất kỳ kịch bản người dùng đối địch nào. Tuy nhiên, niềm hy vọng của tôi không có thành tích tốt lắm trong thực tế lập pháp
Không thể tin cậy client. Chưa nói đến việc vô số dịch vụ hiện có và sẽ xuất hiện trong tương lai ngay từ đầu sẽ không triển khai nó, các phiên bản ứng dụng đã loại bỏ kiểu đo từ xa đó sẽ tương đối dễ tiếp cận. Chẳng hạn như quan hệ giữa VScode và VScodium, rồi sẽ có WhatsApp và WhatsAppium
Cũng phải nghĩ đến khả năng giả mạo. Bạn có thể gửi tin nhắn cho ai đó để lấy client ID của họ, rồi báo cáo rằng client đó đã phát hiện loại CSAM tồi tệ nhất có thể tưởng tượng
Phải nghĩ đến dương tính giả. Phải nghĩ đến chi phí. Phải nghĩ đến trẻ em. Hãy nghĩ đến những đứa trẻ có cha mẹ không lạm dụng, chỉ gửi cho nhau những bức ảnh bình thường nhưng dễ bị nhầm lẫn, rồi bị quấy rối vì cáo buộc CSAM, và một số trong đó sẽ bị tách khỏi con mình
Việc thông qua dự luật này là sự lãng phí khổng lồ thời gian mà các nhà lập pháp có thể dùng tốt hơn. Việc triển khai chỉ thị này sẽ tiêu tốn lượng tiền và chuyên môn khổng lồ để tạo ra một hệ thống đầy lỗi và có thể bị lạm dụng. Trong quá trình thực thi các kết quả đó, sẽ nảy sinh vô số đau khổ không liên quan đến CSAM. Và sau khi vài tội phạm đầu tiên bị bắt, rất có thể các tác nhân đối địch sẽ đơn giản chuyển sang dùng kênh khác
Nhưng đến lúc đó, chủ đề thảo luận có lẽ đã chuyển sang quét phía client đối với suy nghĩ rồi
Tôi tò mò vì sao dương tính giả lại dẫn đến việc tách trẻ khỏi cha mẹ
Ngay cả những người thực sự bị kết án vì sở hữu CSAM hiện nay cũng không nhất thiết mất quyền tiếp cận con cái
“CSAM đã biết và chưa biết”
Nhìn vào mức độ hiện nay của AI hình ảnh, chắc chắn chuyện này sẽ tạo ra lượng dương tính giả khổng lồ. Thật ra, nếu chưa phải vậy thì chẳng mấy chốc việc lọc ra dương tính giả tự thân nó sẽ trở nên bất khả thi. Kế hoạch này trông như đang đánh lại cuộc chiến trước đây trong khi một vấn đề khác, lớn hơn nhiều, đang ập đến
Kết quả là rất nhiều người sẽ bị đánh dấu chỉ vì ảnh con mình. Bởi gần như cha mẹ nào cũng có ảnh khỏa thân của con ở đâu đó
Tôi cho rằng các tranh luận về việc vì sao biện pháp này không hiệu quả trong việc giảm CSAM, hoặc rằng có quá nhiều âm tính giả hay quá nhiều dương tính giả, đều đang bỏ lỡ trọng tâm
Dù các nhà lập pháp có thể có quan tâm đến việc giảm lạm dụng trẻ em, chủ yếu họ đang dùng điều đó làm lý do để tăng cường giám sát và kiểm soát công dân. Đây chỉ là một động thái nhằm bắt buộc cài phần mềm phía client đi ngược lại lợi ích của chủ sở hữu phần cứng
Một khi phần mềm đó đã được cài, việc mở rộng phạm vi yêu cầu sang những việc mà công chúng sẽ không ủng hộ, dù bằng con đường pháp lý hay qua các thỏa thuận hậu trường đáng ngờ, sẽ chỉ còn là một bước nhỏ hơn nhiều
Quét phía client không thể hoạt động, và sẽ không hoạt động
Không có kịch bản nào trong đó quét phía client có thể hoạt động, trừ khi không cho phép người dùng sửa đổi bất cứ thứ gì trong hệ thống. Họ không được sửa ảnh, cũng không được sửa phần mềm
Hãy ghi nhớ điều này. Việc duy nhất mà nó sẽ làm tốt là nhận diện những công dân trung thực, tuân thủ pháp luật nhưng có lý tưởng chính trị không phù hợp với chính phủ hiện tại. Nếu điều này được thông qua, nền dân chủ thực sự — thứ có thể chấm dứt các đạo luật không được lòng dân nhưng được chính phủ phê chuẩn, như phân biệt chủng tộc hay luật cấm rượu — sẽ chết ở EU
European Commission đang say quyền lực
Có câu rằng đừng lãng phí một cuộc khủng hoảng tốt. Việc các tình huống khủng hoảng là cơ hội tốt nhất để chính phủ công khai thúc đẩy các đạo luật phản dân chủ, phản công dân đã được ghi nhận rất rõ. Những đạo luật như vậy bào mòn tự do và chuyển của cải từ người nghèo sang người giàu, còn khủng hoảng thì cung cấp cái cớ hoàn hảo để đi vòng qua quy trình dân chủ thông thường vốn dài, kỹ lưỡng, nơi mọi người dành thời gian mổ xẻ, phân tích và tranh luận
Gần đây cũng đã có rất nhiều khủng hoảng. Covid, lạm phát, làn sóng người tị nạn, chiến tranh Ukraine, chiến tranh Israel
“Hỡi người đóng thuế đáng thương, đừng suy nghĩ quá sâu. Dù sao bạn cũng không hiểu vấn đề này đâu. Nó quá phức tạp, hơn nữa bạn chẳng phải đang bị phân tâm và lo lắng vì virus/lạm phát mất kiểm soát/chi phí sinh hoạt/chiến tranh, đến mức không còn thời gian nghĩ đến những chuyện nhỏ nhặt như quyền riêng tư hay sao. Vì vậy cứ ngồi yên và lo tiền thuê nhà đi, còn quyền riêng tư trực tuyến thì chúng tôi sẽ bảo vệ cho, hiểu chứ?”
Các cơ quan điều tra rất thích việc phần lớn cuộc sống của chúng ta giờ nằm trong tay bên thứ ba nên dễ tiếp cận hơn, và kể từ khi người bình thường có thể dùng mã hóa cho liên lạc, các cuộc tấn công vào mã hóa vẫn không ngừng diễn ra
Nói thêm, đây cũng là vấn đề mà bất kỳ ai làm phần mềm bảo vệ quyền riêng tư sớm muộn cũng phải đối mặt nếu nghiêm túc với mục tiêu của mình. Nếu công cụ đủ mạnh để bảo vệ nhà báo dưới một chế độ thù địch, hoặc bất kỳ nhóm bị áp bức nào mà bạn muốn, thì nó cũng đủ mạnh để bảo vệ những tội phạm làm những việc mà cá nhân bạn ghê tởm
Các tổ chức thúc đẩy những việc như thế tự thu hút những người thèm khát quyền lực, những người nhìn đa số con người không phải là đồng loại mà là đối tượng cần cai trị
Ở đâu nó cũng vận hành như nhau. Đây không phải vấn đề riêng của châu Âu
Toàn bộ logic có thể tóm tắt như sau
Với công nghệ hiện tại, không thể làm cho bất kỳ ảnh hay video nào biến mất hoàn toàn khỏi sự tồn tại. Chừng nào Internet còn tồn tại và con người còn có thể truy cập các phương tiện bị cấm, thì các phương tiện bị cấm đó sẽ tiếp tục lan truyền
Để chống lại điều này, nhà nước phải được trao quyền hạn phi thường để nhìn vào thiết bị và tài khoản của mọi người cũng như xem tệp của họ, từ đó có thể truy tố những người sở hữu phương tiện bị cấm. Và nhà nước thật sự, thật sự hứa rằng phương tiện chúng ta sẽ cấm chỉ là nội dung khiêu dâm trẻ em, tuyệt đối không phải thứ gì khác. Tất nhiên, sau này khi họ cố mở rộng quyền hạn này, trên thực tế sẽ không thể ngăn được. Và chắc chắn chúng ta sẽ làm vậy
Đây là một nỗ lực nhằm giải quyết đúng vấn đề, lạm dụng tình dục trẻ em, nhưng hiển nhiên là cách làm sai
Nó giống như 30 năm trước nói rằng “người ta ghi lại những hành vi lạm dụng đó lên băng VHS, nên nếu nói chuyện với Sony và Scotch thì bằng cách nào đó có thể ngăn được”. Thực ra tình hình hiện nay có phần thực tế hơn một chút, nhưng về bản chất vẫn vậy. Phòng chống lạm dụng tình dục trẻ em phải là ưu tiên rất lớn và rất cao của mọi chính phủ và mọi công dân
Nếu có một cách chắc chắn và được bảo đảm, thì dù tốn bao nhiêu cũng nên làm ngay ngày mai
Nhưng thực tế là chúng ta không rõ cách làm. Đây là vấn đề cần kết hợp cải cách sức khỏe tâm thần, cải cách giáo dục quy mô lớn, cải cách phúc lợi xã hội trẻ em để những đứa trẻ thực sự gặp nguy hiểm được bảo vệ, đồng thời sự bảo vệ có ý nghĩa đó được mở rộng tới mọi trẻ em
Nếu có ý tưởng thông minh nào thì tôi quan tâm
Hoàn toàn không phải
Nếu một luật hay chương trình mới được công bố dưới danh nghĩa chống khủng bố, lạm dụng trẻ em, ma túy, nhưng phạm vi áp dụng thực tế vượt ra ngoài khủng bố, lạm dụng trẻ em, ma túy, thì bạn đang bị thao túng để bỏ phiếu chống lại lợi ích của chính mình. 100% luôn là như vậy
“Chúng tôi bảo đảm quyền riêng tư bằng các thuật toán thông minh trên thiết bị. Dữ liệu của con bạn sẽ không bao giờ được tải lên trừ khi AI trên thiết bị phát hiện tình huống lạm dụng. Và ngoài kẻ lạm dụng ra, ai lại muốn ngăn việc tải lên những dữ liệu như vậy chứ?”
Cho đồng hồ liên tục kiểm tra xem nó có bị tháo ra hay không; nếu bị tháo, tải lên 30 giây video cuối cùng để xác định ai đã tháo
Nếu trẻ hoặc cha mẹ tháo ra, phạt tiền cha mẹ, và bắt buộc trẻ tham gia buổi gặp với cơ quan bảo vệ trẻ em để tìm ra lý do “thật sự” khiến nó bị tháo
Chỉ cần cấp hai chiếc cho mỗi trẻ để sạc. Một chiếc luôn đang sạc và chiếc còn lại được đeo. Nếu chiếc đang đeo phát hiện chiếc kia không đang sạc, nó sẽ gửi thông báo cho người dùng. Nếu không khắc phục trong một khoảng thời gian nhất định thì xử lý là vi phạm
Việc tháo ra nhiều lần hoặc các vi phạm kiểu “hết pin ngoài ý muốn” có thể dẫn tới mức phạt ngày càng cao, và có khả năng là tách trẻ khỏi cha mẹ
Tất cả những điều này đều khả thi với công nghệ hiện nay. Chỉ cần sản xuất sự đồng thuận bằng vài vụ việc nổi bật trong đó smartwatch cứu trẻ khỏi cha mẹ lạm dụng, hoặc vài vụ cảnh sát lần theo smartwatch để đưa trẻ về sau một nỗ lực bắt cóc, từ đó tạo ra bài học rằng “mọi trẻ em đều cần bị theo dõi như vậy”
Thật vậy sao? Việc trừng phạt hành vi sở hữu CSAM có thực sự ảnh hưởng đến tỷ lệ lạm dụng tình dục trẻ em không?
Tôi không nói rằng hình sự hóa CSAM là sai, nhưng có chút dữ liệu nào cho thấy việc trừng phạt kiểu người sẽ bị bắt nhờ quét kho lưu trữ đám mây thực sự ảnh hưởng đến số trẻ em bị hại không?
Nếu không, điều biện pháp này đạt được chỉ là hành động tạo cảm giác tốt đẹp rằng ta đang bỏ tù những kẻ ấu dâm. Nhưng điều đáng lo không phải là những kẻ ấu dâm, mà là những kẻ hiếp dâm trẻ em và những kẻ sản xuất nội dung khiêu dâm trẻ em thực sự phạm tội với trẻ em
Tôi không rõ việc truy lùng người dùng cuối sẽ ảnh hưởng thế nào đến chuỗi cung ứng. Ngược lại, một khi có thể truy lùng người dùng cuối, tôi thấy có cả triệu cách để nhà nước giành quyền lục soát người dân vì gần như bất kỳ tội nào mà họ coi là quan trọng. Nếu cho phép điều này, xác suất nó mở rộng vượt khỏi CSAM trong vài năm là 100%
Và ngay từ đầu “tài liệu” cũng không nhất thiết phải tồn tại. Ghi hình chỉ là một lựa chọn, nhưng tôi không thấy nội dung nào xử lý vấn đề đó
Đề xuất hiện tại sẽ không được thông qua dưới dạng này. Nhiều quốc gia thành viên như Hà Lan, Tây Ban Nha, Ba Lan đang phản đối, và rất có thể nó là bất hợp pháp
Để được thông qua, nó phải được sửa đổi triệt để. Những thay đổi như vậy có lẽ sẽ khiến một đề xuất vốn đã vô dụng càng vô dụng hơn, nhưng ít nhất hy vọng lần này chúng ta sẽ được cứu khỏi backdoor quyền riêng tư/mã hóa
Không được để nó thông qua trong bất kỳ hoàn cảnh nào, và toàn bộ phải bị bác bỏ. Không có chỗ cho thỏa hiệp