Bất hợp pháp ngay từ thiết kế: Phơi bày cái giá nhân quyền của AI tạo sinh

• Các hệ thống AI tạo sinh độc lập xung đột với luật nhân quyền quốc tế (IHRL) và các tiêu chuẩn liên quan trong toàn bộ quá trình thiết kế, phát triển và triển khai khi được xây dựng dựa trên hoạt động web scraping trái phép
• Công nghệ này hứa hẹn khả năng tự động hóa tinh vi và hiệu quả cao, nhưng các thực tiễn thu thập dữ liệu và huấn luyện mô hình lại phụ thuộc vào một cấu trúc lạm dụng quyền riêng tư
• Cùng những thực tiễn đó tạo ra cái giá nhân quyền khi cho phép phân biệt đối xử và đe dọa quyền tự do biểu đạt cũng như tự do tư tưởng
• Amnesty International kết luận rằng các hệ thống dựa trên web scraping trái phép phụ thuộc ngay từ thiết kế vào các vi phạm quyền riêng tư trên quy mô lớn
• Các hệ thống như vậy về cơ bản không thể tương thích với luật nhân quyền quốc tế, và Amnesty International kêu gọi cấm các hệ thống này

---

Nhận định chính

• Các hệ thống AI tạo sinh độc lập dựa trên web scraping trái phép xung đột với luật nhân quyền quốc tế (IHRL) và các tiêu chuẩn liên quan ở các giai đoạn thiết kế, phát triển và triển khai
• Amnesty International cho rằng các hệ thống này phụ thuộc ngay từ thiết kế vào các vi phạm quyền riêng tư trên quy mô lớn và về cơ bản không thể tương thích với luật nhân quyền quốc tế

Cơ chế xâm phạm nhân quyền

• Công nghệ AI tạo sinh hứa hẹn khả năng tự động hóa tinh vi và hiệu quả cao
• Tuy nhiên, các thực tiễn thu thập dữ liệu và huấn luyện mô hình phụ thuộc vào việc lạm dụng quyền riêng tư
• Những thực tiễn này cho phép phân biệt đối xử và đe dọa quyền tự do biểu đạt cũng như tự do tư tưởng

Kết luận và yêu cầu

• Amnesty International kêu gọi cấm các hệ thống AI tạo sinh độc lập dựa trên web scraping trái phép
• Báo cáo tiếng Anh có thể được tải xuống tại Download PDF

[GN⁺]

Ý kiến trên Lobste.rs

• Mong là cụm từ cào dữ liệu web bất hợp pháp sẽ không dẫn tới một tác dụng phụ khác là xu hướng đòi cấm luôn cả web scraping

  • Có vẻ như họ không hẳn đang thúc đẩy lệnh cấm scraping; đọc phần đó thì thấy các lo ngại được nêu ra khá cụ thể và hợp lý
    Vấn đề là các công ty đang thu thập dữ liệu cá nhân trên quy mô lớn mà không có sự đồng ý, rồi thương mại hóa số dữ liệu đó theo những cách có nguy cơ làm lộ dữ liệu
  • Hơi đáng tiếc là có cảm giác Amnesty đang bị lập luận của các nhà xuất bản chi phối

• Amnesty International đòi cấm các hệ thống như vậy, tức là đang đưa ra lập trường khá mạnh

  • Có lẽ sẽ tốt hơn nếu họ không diễn đạt theo cách đó. Một số độc giả có thể gạt đi như một thứ lý tưởng bất khả thi kiểu “muốn đóng lại chiếc hộp Pandora đã mở rồi hay sao”
    Dù vậy, những điểm như sự cần thiết của cơ chế khắc phục trong ra quyết định dựa trên AI, các thiên lệch quan sát được trong mô hình, hay vấn đề scraping không có sự đồng ý, ghi nhận tác giả và bồi thường, đều là những chỉ ra xác đáng

• Tôi vẫn chưa đọc hết, nhưng có một đoạn đáng chú ý ở kết luận mục 5.6, trang 35
  Amnesty International đã yêu cầu DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft và Amazon phản hồi về các phát hiện điều tra và quan ngại liên quan đến hệ thống AI tạo sinh độc lập và rủi ro nhân quyền, nhưng Anthropic lại vắng mặt một cách đáng chú ý
  Tìm các chỗ nhắc đến Anthropic trong báo cáo thì tôi chỉ thấy nội dung nói rằng Claude của Anthropic đã được dùng khi quân đội Mỹ cùng Israel tấn công Iran vào tháng 2/2026, và có đoạn cho biết chính phủ Mỹ đã phớt lờ các điều khoản hạn chế việc sử dụng của Anthropic đối với “giám sát nội địa quy mô lớn” và “vũ khí tự động hoàn toàn không có giám sát”
  Sản phẩm của Anthropic đã được dùng trong chính phủ và quân đội Mỹ từ năm 2024, và được biết đến là “công ty AI tiên tiến” đầu tiên triển khai sản phẩm trên diện rộng cho các cơ quan chính phủ xử lý công việc mật; đồng thời có nội dung nói rằng sau khi Anthropic không sửa các hạn chế đó, Lầu Năm Góc đã xếp công ty này vào diện “Supply Chain Risk” vào ngày 6/3/2026
  Tôi không định nói Amnesty có thiên vị theo hướng thân-Anthropic, nhưng vẫn thấy khó hiểu vì sao họ không đưa công ty này vào danh sách đó. Có thể danh sách ấy được lập vì báo cáo đã nhiều lần nhắc cụ thể đến OpenAI, Google, Meta... kèm nguồn về các trường hợp thiệt hại, còn với Anthropic thì không có nguồn tương tự, nhưng dù sao vẫn thấy kỳ lạ

• Amnesty có vẻ không còn là Amnesty của ngày xưa nữa

• Bản tóm lược này nói rõ rằng họ tập trung vào đường ống dữ liệu trong chuỗi cung ứng của các sản phẩm AI tạo sinh, đặc biệt là ở các giai đoạn thu thập, phân tích và xử lý dữ liệu
  Ngoài ra, Amnesty International định nghĩa các công cụ AI tạo sinh độc lập là những sản phẩm được phát triển, triển khai và tiếp thị chỉ nhằm phục vụ chức năng AI tạo sinh, như chatbot AI hay công cụ tạo hình ảnh, video, âm thanh và văn bản; còn các tính năng được bổ sung vào một dòng sản phẩm lớn hơn, như tính năng AI tạo sinh tùy chọn trong trình xử lý văn bản, thì bị loại trừ