Nightshade: công cụ tấn công dành cho nghệ sĩ để chống lại trình tạo ảnh AI

Nightshade là gì

• Các mô hình AI tạo sinh và những bên huấn luyện chúng đã cho thấy khả năng sử dụng nội dung trực tuyến để huấn luyện mô hình.
• Chủ sở hữu nội dung và người sáng tạo hầu như không có công cụ nào để ngăn nội dung của họ bị dùng làm dữ liệu huấn luyện cho các mô hình AI tạo sinh trái với ý muốn của mình.
• Nightshade là một công cụ biến hình ảnh thành các mẫu dữ liệu không phù hợp cho việc huấn luyện mô hình, giúp răn đe những bên huấn luyện mô hình phớt lờ bản quyền và cào dữ liệu trái phép.

Cách Nightshade hoạt động và các giới hạn

• Nightshade biến hình ảnh thành các mẫu "đầu độc", khiến những mô hình được huấn luyện mà không có sự đồng ý học phải những hành vi ngoài dự kiến.
• Công cụ này không nhằm phá hủy mô hình, mà nhằm tăng chi phí huấn luyện bằng dữ liệu không được cấp phép để việc cấp phép hình ảnh từ người sáng tạo trở thành một phương án thay thế khả thi.
• Nightshade hoạt động tương tự Glaze, công cụ phòng vệ trước việc bắt chước phong cách, nhưng trong khi Glaze là công cụ phòng vệ thì Nightshade được thiết kế như một công cụ tấn công để làm méo biểu diễn đặc trưng trong các mô hình ảnh AI.

Nightshade so với Glaze

• Glaze là công cụ phòng vệ mà từng nghệ sĩ riêng lẻ sử dụng để tự bảo vệ trước các cuộc tấn công bắt chước phong cách.
• Nightshade là công cụ tấn công để các nghệ sĩ sử dụng theo nhóm nhằm cản trở những mô hình cào hình ảnh mà không có sự đồng ý.
• Lý tưởng nhất là nghệ sĩ nên áp dụng cả Glaze lẫn Nightshade khi đăng tác phẩm của mình lên mạng.

Rủi ro và giới hạn

• Các thay đổi do Nightshade gây ra dễ nhận thấy hơn ở các tác phẩm nghệ thuật có màu phẳng và nền mượt.
• Giống như các cuộc tấn công hay phòng thủ bảo mật, Nightshade khó có khả năng là bằng chứng có giá trị trong tương lai dài hạn.
• Nightshade được thiết kế để chạy không cần mạng, nên dữ liệu hoặc tác phẩm nghệ thuật sẽ không bị gửi cho chúng tôi hay bất kỳ ai khác.

Nightshade và WebGlaze

• Nightshade v1.0 được thiết kế như một công cụ độc lập và không cung cấp các tính năng phòng vệ trước bắt chước như Glaze.
• Chúng tôi đang thử nghiệm cách Nightshade và Glaze hoạt động cùng nhau, và khi sẵn sàng sẽ phát hành Nightshade như một tính năng bổ sung trên WebGlaze.

Ý kiến của GN⁺

• Nightshade là một công cụ đổi mới giúp người sáng tạo bảo vệ bản quyền của mình và gửi lời cảnh báo tới những bên huấn luyện mô hình AI sử dụng hình ảnh trái phép.
• Công cụ này có thể tạo tác động tích cực tới hệ sinh thái nghệ thuật số bằng cách răn đe việc sử dụng trái phép các tác phẩm sáng tạo và khuyến khích các thỏa thuận cấp phép với chủ sở hữu bản quyền.
• Sự kết hợp giữa Nightshade và Glaze mang lại một cách mới để nghệ sĩ chia sẻ tác phẩm của mình trên mạng một cách an toàn hơn.

[GN⁺]

Ý kiến trên Hacker News

• Liên kết bài báo: arXiv:2310.13828
  • Bài báo này dường như đưa vào các artifact ở mức mà nhiều nghệ sĩ khó có thể chấp nhận.
• Kỹ thuật này
  • a) chỉ hoạt động cầm chừng với quy trình huấn luyện của thế hệ trước,
  • b) hoàn toàn không hoạt động với các quy trình huấn luyện mới nhất (gắn nhãn bằng GPT-4V, LLaVA, BLIP2, v.v.).
  • c) ngay cả khi hiệu quả và trở nên phổ biến, dự kiến cũng sẽ dễ bị đối phó.
  • Công trình trước đây của các tác giả là Glaze cũng có vẻ không hiệu quả, và kết quả có thể đã được đánh giá cao hơn thực tế.
• Những công cụ như vậy khó có khả năng thành công trên thị trường, và có những cách có thể lách qua ngay lập tức mà không ảnh hưởng đến nhận thức của con người.
  • Nếu nghệ sĩ hoặc những người khác muốn ngăn việc dùng kết quả do con người tạo ra để huấn luyện, họ sẽ phải làm điều đó thông qua biện pháp pháp lý.
  • Đây cũng không phải giải pháp hoàn hảo, mà thậm chí còn có thể thúc đẩy sự phát triển của các mạng huấn luyện phân tán.
• Đây có vẻ là một "cuộc chạy đua vũ trang" hoặc "trò chơi mèo vờn chuột" vô nghĩa.
  • Những người không quan tâm đến ý kiến của nghệ sĩ có thể phá hủy các thay đổi tinh vi của thuật toán Nightshade bằng hậu xử lý hình ảnh.
  • Trong tương lai, do áp lực xã hội, tòa án có thể sẽ đứng về phía nghệ sĩ, và nghệ sĩ có thể phản đối các hình ảnh sinh ra "quá giống" phong cách của họ.
  • Hoặc nghệ sĩ có thể từ bỏ việc kiếm tiền từ chính hình ảnh và chỉ tập trung vào sáng tác các tác phẩm vật lý.
• Thông qua thí nghiệm tinh chỉnh Stable Diffusion XL bằng các hình ảnh xấu/không nhất quán, người ta cho thấy rằng nếu dùng những hình ảnh này làm negative prompt thì mô hình có thể tạo ra hình ảnh tốt hơn.
  • Việc tạo ra các bộ dữ liệu như vậy một cách nghịch lý có thể giúp cải thiện các mô hình nghệ thuật AI tạo sinh.
• Muốn áp dụng cơ chế thu phí tăng dần đối với việc sử dụng bản quyền/quyền sở hữu trí tuệ/bằng sáng chế.
  • Ví dụ, muốn áp dụng phí cấp phép theo tỷ lệ gắn với doanh thu.
  • Muốn thời hạn bản quyền là 0 năm sau khi qua đời nếu thuộc sở hữu cá nhân, và tối đa 20-30 năm nếu thuộc sở hữu doanh nghiệp.
  • Muốn đặt mức phạt với doanh nghiệp rất cao cho việc không khai báo sử dụng/không nộp phí để ngăn hành vi trộm cắp.
• Chỉ ra mâu thuẫn giữa việc các nghệ sĩ học nhiều phong cách khác nhau bằng cách xem tác phẩm của nghệ sĩ khác và việc họ tìm cách ngăn AI học phong cách từ tác phẩm của mình.
• Điều này làm suy yếu khái niệm về "độ chính xác của thông tin" và thừa nhận một trò chơi tấn công - phòng thủ không ngừng.
• Chẳng bao lâu nữa, nhiều người sẽ có thể dễ dàng tạo ra các tác phẩm nghệ thuật chất lượng cao, và đây là một triển vọng rất thú vị.