EU: Có thể cấm chia sẻ ảnh và liên kết nếu từ chối quét
(patrick-breyer.de)- Đề xuất quản lý nội dung lạm dụng tình dục trẻ em của EU, chat control, đang bước vào giai đoạn có thể lại được các chính phủ EU phê chuẩn do khả năng Pháp thay đổi lập trường
- Dự thảo ngày 28/5/2024 yêu cầu người dùng ứng dụng/dịch vụ chat cho biết có chấp nhận việc quét tự động và khả năng báo cáo đối với hình ảnh, ảnh và video riêng tư hay không; nếu từ chối, họ sẽ bị hạn chế gửi/nhận ảnh, video và liên kết
- Các dịch vụ mã hóa đầu cuối như WhatsApp và Signal cũng phải triển khai tìm kiếm tự động trước khi gửi, trên thực tế hoạt động như quét phía client
- Dự thảo sẽ bỏ quét văn bản tìm dấu hiệu grooming và quét liên lạc thoại trong các bản trước, nhưng chat của nhân viên cơ quan an ninh và quân đội dự kiến sẽ được loại khỏi phạm vi áp dụng
- Council Legal Service cho rằng việc quét không phân biệt đối với người không bị nghi ngờ là xâm phạm quyền cơ bản, nhưng nhiều chính phủ EU dự kiến tiếp tục thảo luận vào ngày 4/6
Dự thảo “upload moderation” sẽ thay đổi điều gì
- Đề xuất quản lý nội dung lạm dụng tình dục trẻ em gây nhiều tranh cãi, còn gọi là chat control, đang ở tình thế có thể được phê chuẩn trở lại ở cấp chính phủ EU
- Theo đưa tin của Euractiv và các tài liệu nội bộ, Pháp có thể từ bỏ quyền phủ quyết hiện tại
- Pháp về nguyên tắc xem đề xuất “upload moderation” mới là một lựa chọn khả thi
- Bản dự thảo mới nhất ngày 28/5/2024, Council document 9093/24, áp dụng cho các ứng dụng và dịch vụ có chức năng chat
- Người dùng sẽ được hỏi liệu họ có chấp nhận việc quét và khả năng báo cáo một cách không phân biệt, có thể phát sinh lỗi, đối với hình ảnh, ảnh và video được chia sẻ riêng tư hay không
- Cả những hình ảnh và video chưa từng được biết đến trước đó cũng sẽ trở thành đối tượng bị kiểm tra bằng công nghệ trí tuệ nhân tạo
- Người dùng từ chối quét sẽ không thể gửi hoặc nhận hình ảnh, ảnh, video và liên kết
- Các dịch vụ mã hóa đầu cuối như WhatsApp hoặc Signal cũng phải triển khai tìm kiếm tự động trước khi gửi tin nhắn
- Dự thảo xử lý điều này như quét phía client trong Điều 10a
- Patrick Breyer chỉ trích rằng cách này làm suy yếu mã hóa đầu cuối an toàn hiện có và biến smartphone thành công cụ giám sát
Phạm vi được loại trừ và các vấn đề còn lại
- Trong bản dự thảo mới nhất, một số phạm vi quét có trong đề xuất ban đầu đã bị loại bỏ
- Quét tin nhắn văn bản tìm dấu hiệu grooming, vốn đến nay hầu như chưa được sử dụng, dự kiến sẽ bị xóa
- Quét liên lạc thoại, vốn đến nay chưa từng được triển khai, cũng dự kiến sẽ bị xóa
- Như một nhượng bộ dành cho Pháp, chat của cơ quan an ninh và nhân viên quân đội có thể sẽ được loại khỏi chat control
- Trong cuộc thảo luận cuối cùng ngày 24/5, Council Legal Service cho biết việc quét chat control không phân biệt đối với người không bị nghi ngờ vẫn được dự kiến áp dụng và cấu thành xâm phạm quyền cơ bản
- Dù vậy, nhiều chính phủ EU vẫn thể hiện ý chí thúc đẩy
- Các chính phủ EU dự kiến tiếp tục thảo luận vào ngày 4/6
- Nghị sĩ Nghị viện châu Âu Patrick Breyer chỉ trích rằng Belgian proposal triển khai nguyên vẹn phần cốt lõi trong đề xuất chat control ban đầu của EU Commission
- Ông cho rằng trong thế kỷ 21, dùng trình nhắn tin chỉ cho văn bản thuần túy không phải là một lựa chọn
- Ông chỉ ra rằng việc loại bỏ các yếu tố quá mức vốn không thực sự được sử dụng chỉ là hình thức
- Ông cảnh báo rằng chat và ảnh riêng tư của công dân vô tội có thể bị tìm kiếm và rò rỉ bằng công nghệ không đáng tin cậy
- Ông cho rằng nếu các chính phủ EU bước vào đàm phán trilogue với lập trường này, có nguy cơ Parliament sẽ dần từ bỏ lập trường ban đầu trong các cuộc đàm phán kín và đồng ý với một thỏa hiệp gây rủi ro cho an ninh trực tuyến
3 bình luận
Trong trường hợp này thì đúng là có vẻ vấn đề rất lớn, nhưng có vẻ họ vẫn sẽ ép triển khai. Tôi thích những gì EU đã làm với Apple, nhưng chuyện này thì tôi thấy đi quá xa rồi.
Có lẽ ngay từ đầu họ đã làm sai với Apple rồi... hu hu
Ý kiến trên Hacker News
Nếu "các cuộc trò chuyện của nhân viên cơ quan an ninh và quân đội cũng được loại trừ khỏi kiểm soát chat", chẳng phải điều đó có nghĩa là chính lĩnh vực an ninh/quân sự, nơi có khả năng lớn nhất thực sự cần bị xem xét các cuộc trò chuyện riêng tư, lại được bỏ qua sao?
Vậy nếu tự host như [1] thì không cần tuân theo luật này.
Nhưng điều đó có nghĩa là một quan chức an ninh có thể dùng dịch vụ công khai thay vì hạ tầng tự host và gửi dữ liệu mật, với tiền đề rằng họ thuộc diện được miễn trừ sao?
Và như @WA đã nói, có phải danh sách liên hệ của các công chức như vậy sẽ được cung cấp cho mọi tổ chức vì lợi nhuận không?
Nghe đúng là một trò đùa ngu ngốc.
[1]: Xem hàng thứ ba tại https://www.patrick-breyer.de/en/posts/chat-control/#current...
Ngay cả nếu coi lập luận đó là đúng, thì chức năng đặt ngoại lệ cho một số nhóm cụ thể dùng để làm gì? Trừ khi họ cố ý cho nhóm đó ngoại lệ để tạo và phát tán tài liệu xâm hại tình dục trẻ em, thì không thể giải thích được.
Kết luận hợp lý hơn là các tuyên bố về bảo vệ quyền riêng tư hoặc giới hạn mục đích là giả dối.
Thật khó tin là họ nghĩ biện pháp kiểu này sẽ làm chậm được điều gì đó. Một số luật có thể được xem là sự đánh đổi giữa an toàn và tự do, nhưng trong trường hợp này tôi thậm chí còn không rõ nó làm gì khó hơn cho tội phạm.
Nếu có thể gửi văn bản trong khi chia sẻ thứ có vấn đề trên các nền tảng này, thì cũng có thể gửi link. Ngay cả trên nền tảng "không cho phép link", người ta cũng sẽ tạo quy ước ký hiệu mới hay cách nào đó để chia sẻ bằng văn bản thường. Cũng có thể dùng nền tảng khác, nên tôi không thấy tác dụng răn đe nằm ở đâu.
Rốt cuộc đây chỉ là quy định phiền phức do những người không hiểu công nghệ tạo ra.
Tất nhiên sẽ không bắt được 100%, nhưng gần như không có luật hay biện pháp nào làm được vậy. Và những biện pháp đạt mức đó thường đi kèm dương tính giả khổng lồ.
Link cũng không khó quét, và cũng khó kỳ vọng rằng cứ "đơn giản" tải tài liệu xâm hại tình dục trẻ em lên bất kỳ đâu thì cuối cùng sẽ không gặp vấn đề. Nếu là trường hợp biết chính xác mình đang làm gì, thì quay lại đoạn trước.
Khó phủ nhận rằng luật này sẽ bắt được ai đó, không phải 0 người, và rất khó đánh giá trước chính xác là bao nhiêu. Điều đó không có nghĩa đây là luật tốt, nhưng kiểu phản biện "không bắt được ai" là lập luận tệ.
Thứ nhất là tạo cảm giác rằng ai đó đang làm gì đó. Cử tri không chấp nhận sự thật rằng đại diện của họ không có khả năng giải quyết một vấn đề nóng cụ thể. Ngay cả khi luật hoặc quy định mới có rất ít hoặc không có hiệu quả, nếu các nhà lập pháp có thể khiến "chuyên gia" nói những lời hay ho, thì nhiều cử tri không hiểu vấn đề sẽ phần nào hài lòng.
Thứ hai là tiếp tục xây dựng và bình thường hóa công nghệ giám sát, biến nó thành một phần của đời sống hằng ngày. Người trong chính phủ càng bắt buộc nhiều việc mà họ không thể tự làm một cách riêng tư, thì họ càng dễ làm gần như bất cứ điều gì họ muốn.
Dù mức độ dễ tiếp cận trên điện thoại là chuyện khác, nhưng có vẻ cũng không quá khó.
Nội dung công khai cũng có thể được quét như một phần của phòng thủ theo chiều sâu.
Khi những người có thẩm quyền cảm thấy bất lực trong việc thực hiện trách nhiệm của mình, họ hoảng loạn và đẩy người vô tội vào những tình huống bất tiện hoặc có hại, khiến mọi người gặp nguy hiểm. Điều đó xảy ra thay vì bắt nhóm thủ phạm tương đối nhỏ thực sự gây ra vấn đề.
Tôi đã thấy quá nhiều ví dụ như vậy trong nhiều năm, và công chúng càng phẫn nộ thì thiệt hại mà toàn bộ công chúng phải chịu càng lớn hơn so với nhóm cực nhỏ có liên quan hoặc chịu trách nhiệm. Trong khi đó họ chỉ thay đổi cách làm một chút rồi tiếp tục, còn công chúng thì bị phá hỏng.
Tốt hơn là cung cấp công cụ và giáo dục để cha mẹ có thể bảo vệ con mình, thay vì thuê ngoài việc đó cho chính phủ hoặc các công ty đại chúng.
Vì vậy, những công dân đã bầu ra những người làm chuyện như thế này cần sa thải các chính trị gia ở cơ hội tiếp theo và cho họ biết vì sao họ bị sa thải. Cảnh sát là bọ cạp, và bọ cạp hành động theo bản tính của mình. Cần sa thải những kẻ ngu ngốc làm ra luật mà họ thực thi; nguồn gốc thật sự của luật mới không phải là cảnh sát mà là những người đó.
Sự hỗn loạn mà một đạo luật như thế này có thể tạo ra là kiểu như sau
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
Vấn đề thật sự là hỗ trợ của Google nổi tiếng là không tồn tại hoặc khó hiểu. Cộng thêm cách xử lý trắng đen kiểu "cấm suốt đời" và cấu trúc khó kháng cáo lên một nơi độc lập một cách hợp lý. Có rất nhiều lý do vô tội khiến tài khoản có thể bị khóa, và đây chỉ là một trong số đó
Các dịch vụ cho phép bất kỳ ai tải lên hoặc truyền gửi sẽ trở thành tờ giấy bắt ruồi thu hút những con người tồi tệ nhất. Một dạng biện pháp bảo vệ nào đó thật sự là cần thiết
Đi xa hơn một bước, nếu cung cấp một nền tảng khổng lồ gắn với nhiều khía cạnh của đời sống, thì dù muốn hay không cũng phải chấp nhận một mức trách nhiệm nhất định. Ít nhất phải cung cấp hỗ trợ tương đối hữu ích, và không được trở thành nơi lưu trữ quy mô lớn cho nội dung bóc lột tình dục trẻ em
Hồi tôi làm thợ sửa chữa, để xem Flash Player có chạy không, tôi bấm đại một thứ trên trang đầu Google Video và gặp một video một người đàn ông tự bắn bay đầu mình. Ngay cả ở những nơi như Kazaa hay các trang warez, cũng khá thường xuyên gặp các kiểu "bé Alice 12 tuổi tự hào khoe bộ ngực nhỏ" mà không cần cố tình tìm
Đặt điểm cân bằng cho tất cả những chuyện này ở đâu là câu hỏi khó, nhưng giả vờ như bản thân sự cân bằng không tồn tại thì chẳng giúp ích gì
Đề xuất này đang được Hội đồng thúc đẩy, nhưng kết quả cuối cùng vẫn còn có thể bị ảnh hưởng. Chỉ cần bỏ phiếu cho những đảng không dính vào thứ rác rưởi này để nó bị bác bỏ. EU Pirate Party vẫn còn có tên trên phiếu bầu ở một số khu vực
Nếu chuyện này thành luật, dự đoán của tôi là ASCII art sẽ trở lại
Đây không phải chuyện chia sẻ ảnh kỳ nghỉ với bạn bè, mà là những thứ như
"Đây là liên kết giải thích cách xử lý thuế cho tổ chức phi lợi nhuận", "Đây là logo mới của trường", "Đây là liên kết lịch thi đấu bóng đá"
Hơi lạc đề một chút, nhưng tôi tự hỏi EU đã từng bãi bỏ/quy chế hóa lỏng lẻo hơn điều gì chưa. Có phải họ chỉ thêm luật và điều khoản mới không? Họ được thưởng theo số dòng code à? Có ví dụ nào về luật đã bị bãi bỏ hoặc được nới quy định không
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
Tóm tắt ở đây: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
Chỉ thị này đã bãi bỏ nhiều luật quốc gia về dung tích sản phẩm. Chẳng hạn ở Pháp, có thể bán dầu gội trong chai 250ml hoặc 500ml nhưng không được bán 295ml; nấm cũng có thể bán trong hộp 250g hoặc 500g nhưng không được bán 230g hay 490g
Giờ thì có thể, và kết quả là nó trở thành một đợt nới quy định cho phép shrinkflation
Với tôi, cách EU và Mỹ xử lý an toàn thực phẩm tóm tắt rất rõ triết lý của hai bên. Ở EU, để một thực phẩm được phép lưu hành, phải chứng minh nó an toàn; ở Mỹ, để một thực phẩm bị cấm, phải chứng minh nó không an toàn
Dạo này bãi bỏ quy định không mấy được ưa chuộng, nhưng đôi khi vẫn xảy ra đây đó
Vậy còn quyền cơ bản của chúng ta, Điều 7, thì sao
Tôi ủng hộ toàn bộ luật này, chỉ cần thêm một điều
Mọi dữ liệu do các chính trị gia, công chức và gia đình họ chia sẻ trong EU phải được công khai, phân tích để điều tra tham nhũng và lưu trữ vĩnh viễn
Nếu tất cả chúng ta đều bị coi là kẻ ấu dâm, thì mọi chính trị gia đều là tội phạm
Tất nhiên sẽ có vài người bị cáo buộc oan và tất cả chúng ta sẽ mất tự do, nhưng mỗi kỳ bầu cử lại có một cơ hội nhỏ để chính phủ trước đó bị kiểm toán và tham nhũng cùng các tội phạm khác bị phơi bày
Nghe có vẻ đáng thử
Nhìn theo hướng tích cực thì phản ứng dữ dội sẽ kích thích thế hệ mới tống những hóa thạch lỗi thời vào thùng rác của lịch sử
https://youtube.com/watch?v=-wntX-a3jSY
Càng siết chặt, càng nhiều hệ sao sẽ trượt qua kẽ ngón tay
Tất nhiên cũng không khác thế hệ trước là bao, nhưng tuyệt đối không phải một làn sóng chống độc đoán khổng lồ
Ở độ tuổi nào cũng vậy, người ta chỉ phản kháng một cách ổn định khi thực sự bị bất tiện. Phần lớn sẽ chấp nhận bị giám sát rồi quay lại chia sẻ những meme ngớ ngẩn. Dù sao thì cho đến trước khi quá muộn
Lý do những đề xuất như thế này cứ quay lại là vì có những mối lo chính đáng mà cơ chế tự điều tiết của ngành không giải quyết được
Nếu không ai chịu nói chuyện về các biện pháp tốt, các chính trị gia, dù là chính trị gia mới, cũng sẽ thử lại
Những gì việc triển khai AI tạo sinh một cách vô trách nhiệm đang gây ra trong lĩnh vực này thật sự khủng khiếp. Vậy mà tất cả đều bị gạt đi theo kiểu “dù sao cũng không thể chặn toán học nên sẽ không làm gì”, hoặc ngầm hiểu rằng “mục đích biện minh cho phương tiện, nên hy sinh vài đứa trẻ để có được AGI cũng được”. Nhìn từ bên ngoài thì hình ảnh đó tệ hết mức
Nếu ngành công nghệ không tự chịu trách nhiệm, quyền riêng tư sớm muộn cũng sẽ chết. Các chính trị gia chỉ cần thắng một lần
Cứ chờ xem vài trăm ca dương tính giả đầu tiên cùng câu chuyện của họ xuất hiện trên tin tức, và xem chúng ảnh hưởng thế nào đến cuộc bầu cử tiếp theo. Một số đảng sẽ dùng chuyện đó để vận động tranh cử
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
Để triển khai luật này, họ chỉ cần thành công một lần, rồi nó sẽ tiếp tục tồn tại. Còn chúng ta phải thành công trong việc bãi bỏ nó mọi lần, và không được thất bại dù chỉ một lần