Ngay cả trong những việc nhỏ nhặt, Sam cũng luôn không nhất quán trong sự thành thật
- Một tuần trước, OpenAI đã công bố một bản demo mới. Bản demo này có giọng nói gợi cảm, pha lẫn hơi thở, gợi nhớ đến nhân vật tác nhân AI do Scarlett Johansson thủ vai trong bộ phim Her.
- Nhiều người đã phát cuồng vì điều này. (Một số lo ngại về vấn đề phân biệt giới tính, nhưng đó là một câu chuyện khác. Tất nhiên, việc bản demo này sẽ không bao giờ hoạt động vững chắc như quảng cáo cũng là một câu chuyện khác.)
Phản ứng dữ dội nổ ra
- Vài ngày trước, phản ứng dữ dội đã bùng lên. Quá nhiều người nhận ra sự trùng hợp này, và không phải ai cũng vui vẻ.
- Một số người tự hỏi liệu Scarlett Johansson có được trả thù lao hay không. Hôm nay, dưới áp lực, OpenAI đã rút lại giọng nói giống ScarJo và tuyên bố rằng sự tương đồng hoàn toàn chỉ là trùng hợp ngẫu nhiên.
- Đó hoàn toàn là lời nhảm nhí. Và là kiểu nhảm nhí có thể bị bác bỏ một cách rõ ràng.
Hành động của Sam
- Chính Sam đã tự hào đăng một ám chỉ tới bộ phim Her vài giờ sau bản demo.
- Tôi không biết chuyện gì đã xảy ra với phím caps lock của Sam, nhưng tuyên bố rằng sự giống nhau với ScarJo là một "sự trùng hợp" là dối trá. Sam biết hoàn toàn rõ nhân vật đó nghe như thế nào.
Phản ứng của Scarlett Johansson
- Vài giờ sau, chính Scarlett Johansson (thông qua người phát ngôn) đã gửi cho phóng viên Bobby Allyn của NPR một tuyên bố còn chí mạng hơn.
- Lập luận của Scarlett bắt nguồn từ tháng 9, và điều này đã được xác nhận là thật.
- Họ nói đó không phải là cố ý, nhưng dĩ nhiên là có chủ ý. Sam có thể không muốn xóa tweet "her" của mình, nhưng 6 triệu người đã nhìn thấy nó. Và việc nói đó là trùng hợp chỉ là dấu hiệu của cảm giác tội lỗi.
Vấn đề về sự đồng thuận
- Tất cả chuyện này đều xoay quanh sự đồng thuận. Nghệ sĩ, nhà văn và diễn viên không muốn tác phẩm của mình bị sử dụng khi chưa được cho phép. Nếu muốn sử dụng tác phẩm của họ, bạn phải trả thù lao và xin phép.
- Nếu họ nói "không", thì điều đó có nghĩa là không.
- Scarlett đã nói "không".
- Nhưng Sam đã không dừng lại.
Ý kiến của Toni Thai
- Nhà làm phim Toni Thai đã nói như sau:
- Sam đã thoát khỏi rất nhiều chuyện trong một thời gian dài, nhưng giờ mọi người bắt đầu nhìn thấu sự dối trá. Kết quả của một cuộc thăm dò (không mang tính khoa học) thực hiện sáng nay:
- Tôi cũng cùng quan điểm với số đông. Ở OpenAI, spin (bẻ lái, đánh bóng) là chuyện thường ngày, chứ không phải nói thật.
Ý kiến của Casey Newton và Michelle Rempel Garner
- Casey Newton cũng nhận ra điều này:
- Nghị sĩ Canada Michelle Rempel Garner cũng vậy:
Sự thiếu thành thật nhất quán của Sam
- Hội đồng quản trị (nay đã bị thay thế) nói vào tháng 11 rằng lý do họ sa thải Sam là vì ông không nhất quán trong sự thành thật. Tôi đã thấy ông nói dối trước Thượng viện về cổ phần OpenAI của mình, hội đồng quản trị đã thấy những lời dối trá của ông về Helen Toner, và giờ chúng ta lại thấy lời nói dối đáng xấu hổ của ông về Scarlett Johansson.
- Đây là một kiểu mẫu lặp lại.
Kết luận của Gary Marcus
- Gary Marcus đã thấy đủ, và hy vọng hội đồng quản trị mới của OpenAI sẽ nhận ra rằng hành vi của Sam không phù hợp với những gì người ta có thể mong đợi từ một tổ chức phi lợi nhuận đã hứa sẽ giúp ích cho nhân loại.
Ý kiến của GN⁺
- Bài viết này nêu ra một cuộc thảo luận quan trọng liên quan đến các vấn đề đạo đức của công nghệ AI. Đặc biệt, việc sử dụng giọng nói hoặc hình ảnh của nghệ sĩ và diễn viên mà không có sự đồng ý của họ có thể gây ra các vấn đề pháp lý và đạo đức.
- Việc các công ty AI lớn như OpenAI duy trì tính minh bạch và độ tin cậy là vô cùng quan trọng. Đây là điều thiết yếu cho sự phát triển công nghệ và sự chấp nhận của xã hội.
- Hành động của Sam có thể làm tổn hại đến độ tin cậy của công ty, và về lâu dài điều này có thể ảnh hưởng tiêu cực đến danh tiếng của OpenAI.
- Công nghệ AI đang phát triển rất nhanh, nhưng các chuẩn mực đạo đức và quy định pháp lý đi kèm cũng phải phát triển cùng. Điều này nhằm bảo đảm việc sử dụng công nghệ một cách có trách nhiệm.
- Các dự án hoặc công ty AI khác cũng có thể gặp phải những vấn đề tương tự, vì vậy điều quan trọng là phải rút ra bài học từ những trường hợp như thế này và thiết lập các tiêu chuẩn đạo đức tốt hơn.
5 bình luận
Đây có lẽ cũng là thêm một lý do nữa để tước tài khoản Twitter khỏi một CEO chỉ có nhiệt huyết đi trước trong khi không phân biệt nổi đúng sai lẫn chuyện công tư. Tôi không hiểu tại sao lại nhắc đến một bộ phim mà thậm chí còn chưa hề có sự đồng thuận.
Cuối cùng thì Elon đã đúng sao..
Sao lại là Elon?
Nghĩ lại thì đúng là kết luận sẽ thành ra như vậy lolol, Elon đã nhìn xa đến mức nào vậy
Ý kiến trên Hacker News
Tóm tắt các bình luận trên Hacker News
Vấn đề công nghệ và đạo đức của OpenAI
Liên hệ với bộ phim 'Her'
Phản ứng pháp lý
Thông lệ trong ngành lồng tiếng
Ý kiến về sự giống nhau của giọng nói
Vấn đề niềm tin đối với Sam Altman
Tranh cãi về sự tương đồng giọng nói
Liên hệ với dự án Worldcoin
Vấn đề quyền sở hữu giọng nói
Bảo vệ giọng nói và khuôn mặt của cá nhân