YouTube yêu cầu gắn nhãn cho các video chân thực được tạo bằng AI

• YouTube giới thiệu công cụ mới buộc nhà sáng tạo phải công khai với người xem khi nội dung được tạo bằng trí tuệ nhân tạo (AI) có thể bị nhầm là thật
• Công cụ này sẽ được bổ sung vào Creator Studio, và nhà sáng tạo phải thông báo cho người xem nếu nội dung đã bị chỉnh sửa hoặc được tạo nhân tạo theo cách có thể dễ bị hiểu nhầm là người thật, địa điểm thật hoặc sự kiện thật
• Việc công khai sẽ được hiển thị dưới dạng nhãn khi phần mô tả video được mở rộng hoặc ngay trên giao diện trình phát video

Ví dụ về nội dung bắt buộc phải công khai

• Sử dụng hình ảnh của người thật: nội dung biến đổi số như thay thế bằng khuôn mặt của người khác hoặc thuyết minh video bằng giọng nói được tạo nhân tạo
• Thay đổi video về sự kiện hoặc địa điểm có thật: như làm cho có vẻ một tòa nhà thật đang bốc cháy hoặc chỉnh sửa phong cảnh của một thành phố thật để trông khác với thực tế
• Tạo cảnh chân thực: mô tả một sự kiện lớn hư cấu theo cách chân thực, chẳng hạn như một cơn lốc xoáy đang tiến về một ngôi làng có thật

Ví dụ về nội dung không cần công khai

• Nội dung rõ ràng là phi thực tế, hoặc các cải thiện hình ảnh như chỉnh màu, bộ lọc ánh sáng, hiệu ứng đặc biệt, bộ lọc làm đẹp
• AI được dùng để tăng năng suất trong quá trình sáng tạo, ví dụ tạo kịch bản, gợi ý ý tưởng nội dung, tạo phụ đề tự động, sẽ không thuộc diện phải công khai

Cách hiển thị nhãn

• Với hầu hết video, nhãn sẽ hiển thị khi phần mô tả được mở rộng; nhưng với các video đề cập đến chủ đề nhạy cảm như sức khỏe, tin tức, bầu cử, tài chính, nhãn nổi bật hơn sẽ xuất hiện ngay trên chính video
• Nhãn sẽ bắt đầu xuất hiện trên ứng dụng YouTube dành cho điện thoại, sau đó sớm có mặt trên desktop và TV
• YouTube cho biết sẽ xem xét các biện pháp thực thi trong tương lai nếu nhà sáng tạo liên tục chọn không công khai thông tin này

YouTube và hợp tác trong ngành

• YouTube cho biết họ đang tiếp tục hợp tác trên toàn ngành để tăng tính minh bạch xung quanh nội dung số, đồng thời là thành viên chủ chốt của C2PA.
• Ngoài ra, công ty cũng đang phát triển quy trình quyền riêng tư được cập nhật, cho phép yêu cầu gỡ bỏ nội dung khi nội dung do AI tạo ra hoặc bị chỉnh sửa xâm phạm quyền riêng tư của cá nhân có thể nhận diện được (bao gồm khuôn mặt hoặc giọng nói).

Ý kiến của GN⁺

• Chính sách mới của YouTube có vẻ sẽ góp phần nâng cao tính minh bạch của nội dung số và xây dựng niềm tin giữa người xem với nhà sáng tạo.
• Khi AI ngày càng đóng vai trò quan trọng trong quá trình sáng tạo, các công cụ như vậy có thể giúp người dùng nhận biết và hiểu rõ hơn về nội dung do AI tạo ra.
• Tuy nhiên, cũng có thể xuất hiện lo ngại rằng các chính sách như vậy sẽ tạo thêm gánh nặng cho nhà sáng tạo hoặc hạn chế tự do sáng tạo.
• Việc đưa công nghệ này vào sử dụng giúp nâng cao khả năng phân biệt tính xác thực của nội dung, nhưng đồng thời cũng đòi hỏi nhà sáng tạo phải gánh thêm trách nhiệm, nên lợi ích và bất lợi cùng tồn tại.
• Một nền tảng hoặc công cụ khác cung cấp tính năng tương tự là Content Authenticity Initiative của Adobe, tập trung vào việc theo dõi nguồn gốc và tính xác thực của nội dung số.

[GN⁺]

Ý kiến Hacker News

• Tóm tắt bình luận thứ nhất:

  • Xét từ góc độ kinh doanh và học thuật, cách tiếp cận của Google là một bước khởi đầu đi đúng hướng bằng việc đặt ra các quy tắc về cách định nghĩa và gắn nhãn AI.
  • Các quy tắc này bao gồm việc khiến ai đó trông như đã nói hoặc làm điều mà họ thực sự chưa từng nói hoặc làm, chỉnh sửa video về sự kiện hoặc địa điểm có thật, hoặc tạo ra những cảnh chân thực nhưng chưa từng xảy ra ngoài đời thực.
  • Có sự tò mò về việc kiểm chứng các giả thuyết này và khả năng phát sinh tranh chấp pháp lý. Ví dụ như chỉnh màu, bộ lọc làm đẹp, hay dùng AI để tạo thêm cảnh quay từ nhiều góc video khác nhau.

• Tóm tắt bình luận thứ hai:

  • Theo trang hỗ trợ của Google, có nêu rõ các ví dụ về nội dung mà nhà sáng tạo không cần công khai và các ví dụ bắt buộc phải công khai.
  • Các ví dụ không cần công khai gồm có: một người cưỡi kỳ lân, một người đang trôi nổi trong không gian được thể hiện bằng màn hình xanh, điều chỉnh màu sắc hoặc bộ lọc ánh sáng, các bộ lọc hiệu ứng đặc biệt như làm mờ nền hoặc hiệu ứng vintage, tạo hoặc cải thiện dàn ý video, kịch bản, thumbnail, tiêu đề và infographic bằng công cụ AI, tạo phụ đề, tăng độ nét video, upscaling hoặc sửa chữa, sửa giọng nói hoặc âm thanh, và tạo ý tưởng.
  • Các ví dụ phải công khai gồm có: nhạc được tạo nhân tạo, sao chép giọng nói của người khác để dùng làm thuyết minh, tạo nhân tạo thêm cảnh quay về một địa điểm có thật, video làm cho một trận đấu giữa các tay vợt tennis chuyên nghiệp có thật trông như thật, khiến ai đó có vẻ như đã đưa ra lời khuyên mà họ chưa từng nói, chỉnh sửa âm thanh bằng kỹ thuật số để khiến một ca sĩ nổi tiếng có vẻ như hát chệch tông trong buổi diễn trực tiếp, khiến một cơn lốc xoáy hoặc hiện tượng thời tiết khác chưa từng xảy ra trông như đang di chuyển vào một thành phố có thật, khiến nhân viên bệnh viện có vẻ như đã từ chối bệnh nhân ốm hoặc bị thương, khiến một nhân vật công chúng có vẻ như đã ăn cắp hoặc thừa nhận ăn cắp, hoặc có vẻ như đã bị bắt hay vào tù ngoài đời thực.

• Tóm tắt bình luận thứ ba:

  • Các quy định này nhằm tuân thủ luật AI mới của EU.
  • Nội dung do AI tạo ra phải có thể được nhận diện, và văn bản do AI tạo ra được đăng tải nhằm cung cấp thông tin về lợi ích công cộng phải được gắn nhãn là nội dung được tạo nhân tạo. Điều này cũng áp dụng cho nội dung âm thanh và video cấu thành deepfake.

• Tóm tắt bình luận thứ tư:

  • Ví dụ về việc chỉnh sửa âm thanh bằng kỹ thuật số để khiến một ca sĩ có vẻ như hát chệch tông trong buổi diễn trực tiếp được nhắc đến như một trường hợp thú vị.
  • Đây là tình huống ngược lại với sự cố gần đây trong phần trình diễn của Alicia Keys tại Super Bowl, khi NFL đã âm thầm biên tập để sửa lại nốt "khàn" của cô.

• Tóm tắt bình luận thứ năm:

  • Một mô tả chân thực về một sự kiện lớn chưa từng xảy ra, chẳng hạn cho thấy một cơn lốc xoáy tiến vào một thị trấn có thật, là ví dụ về nội dung cần phải công khai.
  • Điều này giống với tình trạng phổ biến hiện nay của thumbnail trên YouTube; không chỉ giới hạn ở AI, nhưng cũng cho thấy việc giám sát sẽ rất khó khăn.

• Tóm tắt bình luận thứ sáu:

  • Tương tự như việc ngân hàng vẫn yêu cầu điền giấy tờ mang tính hình thức dù biết tội phạm có thể nói dối, không có hậu quả rõ ràng nào khi nói dối Google, nhưng điều đó có thể được dùng như một tín hiệu khiến tài khoản nói dối trở nên đáng ngờ hơn.

• Tóm tắt bình luận thứ bảy:

  • Chỉnh sửa video về sự kiện hoặc địa điểm có thật, chẳng hạn khiến một tòa nhà có thật trông như đang cháy hoặc làm cho cảnh quan đô thị có thật trông khác với thực tế, là loại nội dung cần phải công khai.
  • Tách biệt với bài viết nói về nội dung thực tế của video, có ý kiến nêu vấn đề về các hình ảnh xem trước cường điệu nhằm câu nhấp chuột.

• Tóm tắt bình luận thứ tám:

  • Có người đặt câu hỏi liệu YouTube có nhận ra rằng đội ngũ Google Photos thực tế đang tích cực khuyến khích việc chỉnh sửa video và ảnh để thể hiện những cảnh chưa từng xảy ra hay không.

• Tóm tắt bình luận thứ chín:

  • Trước đây Google có lẽ đã cung cấp bộ lọc "không phải AI" trong tìm kiếm nâng cao, nhưng hiện tại Google đang bận bán các công cụ AI để xoa dịu Phố Wall, mà không tính đến việc video AI sẽ tác động thế nào đến vấn đề tìm kiếm vốn đã như "mò kim đáy bể".

• Tóm tắt bình luận thứ mười:

  • Chỉ ra rằng các nhân sự phụ trách chính sách của YouTube đang đối mặt với một nhiệm vụ gần như bất khả thi là phải diễn giải các trường hợp mơ hồ trong vài năm tới.