Giọng nói của tôi đã bị đánh cắp bằng AI

Liên kết video nhận qua email

• Nội dung video: Video quảng bá của Elecrow sử dụng giọng nói của Jeff Geerling
• Vấn đề được nêu ra: Jeff Geerling khẳng định anh chưa từng cho phép sử dụng giọng nói của mình trong video đó

Nghi vấn sao chép giọng nói bằng AI

• Nghi vấn: Elecrow đã đưa video YouTube của Jeff Geerling vào công cụ sao chép giọng nói AI để sử dụng giọng của anh
• Trường hợp trước đây: Đề cập đến vụ OpenAI sao chép giọng nói của Scarlett Johanssen
• Vấn đề pháp lý: Thiếu tiền lệ pháp lý đối với việc sao chép giọng nói AI không được cho phép

Phương án ứng phó

• Tình hình hiện tại: Mối quan hệ trước đây với Elecrow không đến mức tệ
• Phản ứng pháp lý: Theo đuổi pháp lý tốn kém và cũng chưa rõ có vi phạm điều khoản dịch vụ của YouTube hay không
• Yêu cầu: Gửi email cho Elecrow yêu cầu gỡ video đó xuống

Cập nhật

• Đã gửi email: Gửi email cho Elecrow về ý định sử dụng giọng nói AI và yêu cầu xóa video
• Lịch sử email trước đây: Có hơn 43 email trao đổi với Elecrow, trước đây cũng từng nhận đề nghị hợp tác trả phí

Phản ứng trong phần bình luận

• Jimmy: Chắc chắn đã dùng AI, và đây là hành vi cực kỳ không phù hợp
• Gary Hayman: Tôi thích các video thật của Jeff, và vụ này rất tệ
• Kayla: Có thể nhận ra đó là giọng AI qua một số lỗi phát âm trong video
• BC: Nêu khả năng công cụ sao chép giọng nói AI được dùng là ElevenLabs
• Mike Robinson: Đề xuất một tập podcast Tech Life của BBC
• George: Cho rằng giọng trong video không giống Jeff lắm
• mam: Tình huống chưa rõ ràng, khuyên nên liên hệ trực tiếp trước khi có hành động pháp lý
• John: Khuyên nên tham khảo ý kiến luật sư về lĩnh vực giải trí
• Derek: Tuyên bố sẽ không mua sản phẩm của Elecrow nữa
• Oh No: Tình huống mỉa mai khi những người cổ vũ tự do thông tin lại bị nội dung của chính mình đem đi sử dụng trái phép

# Tóm tắt của GN⁺

• Vấn đề sao chép giọng nói AI: Sự phát triển của công nghệ AI đã khiến việc sao chép giọng nói không được cho phép trở nên khả thi, và điều này có thể gây ra các vấn đề đạo đức
• Khó khăn trong phản ứng pháp lý: Do thiếu tiền lệ pháp lý về sao chép giọng nói không được cho phép nên rất khó để ứng phó
• Bảo vệ quyền của nhà sáng tạo nội dung: Việc sử dụng trái phép giọng nói hoặc hình ảnh của nhà sáng tạo nội dung có thể gây vấn đề cả về đạo đức lẫn pháp lý
• Đưa ra giải pháp thay thế: Thay vì sao chép giọng nói bằng AI, nên thuê diễn viên lồng tiếng thật hoặc hợp tác với nhà sáng tạo nội dung
• Trường hợp tương tự: Nhắc lại vụ OpenAI sao chép giọng nói của Scarlett Johanssen và đề xuất tập podcast Tech Life của BBC

[GN⁺]

Ý kiến trên Hacker News

• Nếu AI bắt chước giọng nói của một người để đưa ra các phát ngôn báng bổ tôn giáo, điều đó có thể dẫn đến bạo lực

  • Ở một số quốc gia, đã có những vụ hành hình kiểu đám đông vì tội báng bổ tôn giáo
  • Khi công nghệ AI phát triển, khả năng những vấn đề này lan rộng là có thể xảy ra
  • Điều này có thể đe dọa tính mạng con người, không chỉ đơn thuần là vấn đề danh tiếng, bảo mật hay bản quyền
  • Hiện thiếu các công cụ để kiểm soát việc này

• Việc dùng AI để sao chép giọng nói có lẽ sẽ không thể né tránh vụ Midler vs. Ford

  • Dùng AI để sao chép giọng nói còn khó biện hộ hơn cả việc dùng một diễn viên lồng tiếng khác

• Tiền lệ là quan trọng, nhưng với sự phát triển của công nghệ, cần có những nguyên tắc mới

  • Khi công nghệ tạo ra những năng lực mới, chúng ta phải đặt ra ranh giới để dùng chúng theo cách có lợi cho con người
  • Nếu không, thế giới có thể trở thành nơi kẻ mạnh làm điều họ muốn còn kẻ yếu phải chịu đựng

• Nếu LLM là cỗ máy remix tối thượng, thì người có RAG có thể trở thành một DJ kỹ thuật số

  • Điều đó làm dấy lên câu hỏi: ăn cắp thông tin số thực sự có nghĩa là gì
  • Trong bối cảnh thiếu tiền lệ pháp lý, luật sở hữu trí tuệ và bản quyền hiện giống như thời kỳ miền Viễn Tây hoang dã
  • Ngay cả Scarlett Johansson còn phải viết một bức thư đầy đau đớn về việc bị OpenAI bắt chước, thì người bình thường sẽ có thể ứng phó thế nào?
  • Giống như Geerling, tôi vừa buồn vừa tức giận, nhưng cuối cùng chỉ có thể nói rằng hãy tử tế và tuân theo quy tắc danh dự vì mọi điều tốt đẹp

• Ngay cả khi bỏ qua phần AI, việc bóp méo quan điểm của Jeff hoặc sử dụng hình ảnh của anh ấy khi chưa được phép vẫn là sai trái

  • Việc dùng giọng nói của anh ấy để tạo ra sự ủng hộ ngầm (đã bị thao túng) cho sản phẩm là cực kỳ sai trái
  • Có lẽ đã có sẵn các đạo luật để xử lý những trường hợp như thế này

• Tôi là một YouTuber công nghệ nhỏ và từng có liên hệ với Elecrow

  • Không chỉ Elecrow, mà nhân viên của họ cũng nhận được tiền thưởng, thăng chức và hoa hồng nếu chốt được quan hệ đối tác dài hạn và hợp tác làm video
  • Có lẽ ai đó đã nghĩ rằng sao chép giọng Jeff là một ý tưởng khôn ngoan
  • Đây không phải là PR tốt cho Elecrow
  • Tôi tự hỏi liệu họ có thừa nhận đây là hành vi cố ý hay không

• Tôi không nghĩ nó giống đến vậy

  • Có hơi giống, nhưng vẫn khác
  • Cao độ nhỉnh hơn một chút, giọng mũi hơn một chút, và ngữ điệu cũng hơi khác

• Chúng ta đang có hàng trăm công cụ sao chép giọng nói

  • Tất nhiên sẽ xuất hiện nội dung dùng giọng nói bị sao chép
  • Cũng như với hình ảnh bị sử dụng trái phép, các nền tảng và đội ngũ kiểm duyệt của họ đều có quy trình để báo cáo và gỡ bỏ
  • Chúng ta cũng cần một cơ chế tương tự cho giọng nói

• Mỗi khi luật sư nói rằng việc này luôn tốn rất nhiều tiền: tôi sẽ làm việc này hoàn toàn miễn phí

  • Nhưng rất có thể bạn không ở bang nơi tôi có giấy phép hành nghề
  • Nếu vấn đề của bạn đủ thú vị, bạn có thể tìm được luật sư làm miễn phí
  • Đây là <i>vấn đề thú vị nhất của thời đại chúng ta</i>

• Elecrow có vẻ là một công ty Trung Quốc

  • Nếu vậy thì tôi cũng không kỳ vọng sẽ nhận được câu trả lời nào