Sam Altman đang để lộ con người thật của mình
(slate.com)- Khi tranh cãi bùng lên về việc trợ lý giọng nói Sky trong bản trình diễn GPT-4o có giọng giống Scarlett Johansson, OpenAI đã tạm ngừng sử dụng giọng này
- Johansson cho biết cô đã từ chối đề nghị lồng tiếng cho ChatGPT 4.0 của Sam Altman vào tháng 9/2023, và nhận được yêu cầu cân nhắc lại hai ngày trước khi công bố, nhưng hệ thống đã được ra mắt trước khi hai bên kịp kết nối
- OpenAI giải thích rằng Sky là giọng tự nhiên của một diễn viên chuyên nghiệp khác, nhưng dòng tweet “her” của Altman càng làm các so sánh với bộ phim Her lan rộng hơn
- Sự việc này, cùng với các vụ kiện bản quyền, các thỏa thuận thôi việc hạn chế chỉ trích từ nhân viên nghỉ việc, sự rời đi của nhóm an toàn và cuộc điều tra của SEC, khiến người ta nghi ngờ cam kết minh bạch của Altman
- Tranh cãi về Sky lan thành vấn đề niềm tin liên quan đến việc OpenAI đối xử với nhà sáng tạo, nhân viên và nguồn dữ liệu huấn luyện theo tiêu chuẩn nào
Khởi đầu tranh cãi về giọng Sky
- OpenAI đã trình diễn mô hình tương tác đa phương thức xoay quanh trợ lý giọng nói Sky trong buổi công bố GPT-4o
- Chất giọng của Sky gây ra phản ứng rằng nó rất giống Scarlett Johansson
- Trong tuyên bố gửi Bobby Allyn của NPR, Johansson cho biết Altman đã đề nghị cô vào tháng 9/2023 đảm nhận giọng nói cho hệ thống ChatGPT 4.0 hiện tại
- Cô từ chối đề nghị đó vì lý do cá nhân
- Chín tháng sau, bạn bè, người thân và công chúng nói rằng Sky rất giống cô
- Sau khi nghe bản demo công khai, cô nói mình cảm thấy “sốc, tức giận và không tin nổi”
- Sau đó Johansson thuê luật sư gửi thư cho Altman và OpenAI, và cho biết OpenAI đã “miễn cưỡng đồng ý” thay giọng Sky
Giải thích của OpenAI và Altman
- Sau khi nhận được các câu hỏi xoay quanh Sky, OpenAI đăng trên X rằng họ đang tiến hành tạm ngừng sử dụng giọng Sky
- Trong bài đăng blog, OpenAI nói rằng giọng AI không nên cố ý bắt chước giọng đặc trưng của người nổi tiếng
- Họ khẳng định Sky không phải là bản bắt chước Scarlett Johansson, mà là giọng của một diễn viên chuyên nghiệp khác nói bằng chất giọng tự nhiên của chính mình
- Altman nói với NPR rằng diễn viên lồng tiếng cho Sky đã được chọn trước khi liên hệ với Johansson
- Ông cho biết đã ngừng dùng Sky trong sản phẩm vì tôn trọng Johansson
- Ông nói lời xin lỗi Johansson vì “đã không giao tiếp tốt hơn”
Những tình tiết làm so sánh với Her mạnh hơn
- Trong quá trình công bố GPT-4o, Altman đã tweet từ “her”
- Điều này gợi nhớ đến bộ phim Her năm 2013, trong đó Johansson lồng tiếng cho một trợ lý giọng nói kiểu Siri
- Trước đó Altman từng gọi Her là bộ phim ông yêu thích
- Sau đó, trên blog cá nhân, ông viết về GPT-4o rằng nó “khiến tôi có cảm giác như AI trong phim”
- Johansson cho biết hai ngày trước khi demo ChatGPT 4.0 được công khai, Altman đã liên hệ lại với người đại diện của cô để đề nghị cân nhắc lần nữa
- Hệ thống đã được công bố trước khi hai bên kịp kết nối
- Nitasha Tiku của Washington Post cho biết trong buổi demo trực tiếp của OpenAI vào tháng 9/2023, cô đã cảm thấy giọng Sky nghe giống Johansson và hỏi một lãnh đạo phụ trách liệu đó có phải là chủ ý không
- Khi đó các lãnh đạo phủ nhận rằng đó là cố ý
Áp lực bao quanh OpenAI
- GPT-4o được giới thiệu là một trong những nâng cấp lớn của OpenAI, và sau khi ra mắt vừa kéo theo doanh thu ứng dụng ChatGPT trên di động tăng vọt, vừa làm nảy sinh tranh cãi về spam được dùng để huấn luyện khả năng tiếng Trung
- Tranh cãi về Johansson nổ ra chỉ vài tháng sau khi giới diễn viên đạt được thỏa thuận công đoàn sau các cuộc đình công vì lo ngại tác động của AI lên ngành điện ảnh
- SAG-AFTRA đã công khai ủng hộ lập trường của Johansson chống lại OpenAI
- OpenAI từ lâu bị chỉ trích vì không đưa ra lời xin lỗi hay mức độ minh bạch đầy đủ về khối lượng dữ liệu khổng lồ được dùng để huấn luyện và vận hành các ứng dụng như ChatGPT và DALL-E 3
- Công ty từng thừa nhận rằng việc huấn luyện mô hình là “không thể” nếu không sử dụng lượng lớn sách, tác phẩm nghệ thuật và bài báo có bản quyền
- Các tác giả và nhà xuất bản tin tức đã khởi kiện OpenAI vì thực hành này
- 404 Media đưa tin OpenAI đã gửi “khiếu nại bản quyền” liên quan đến việc sử dụng logo của subreddit OpenAI
Vụ sa thải Altman và làn sóng rời đi của nhóm an toàn
- Đa số thành viên hội đồng quản trị OpenAI đã bỏ phiếu bất tín nhiệm Altman và bất ngờ sa thải ông vào tháng 11/2023
- Khi đó hội đồng nói rằng Altman “không nhất quán trong việc thẳng thắn” khi giao tiếp với hội đồng
- Sau đó, tranh cãi lan thành xung đột giữa Altman cùng các lãnh đạo ủng hộ ông với những người lo ngại về việc phát triển và triển khai sản phẩm quá nhanh cùng khả năng bị lạm dụng
- Ilya Sutskever là một trong những nhân vật then chốt của biến cố tháng 11 và được đưa tin là đã đặt câu hỏi về tính trung thực của Altman, nhưng được cho là đã không quay lại công ty trong nhiều tháng sau đó
- OpenAI tuần trước đã thông báo Sutskever rời công ty
- Jan Leike, người đứng đầu nhóm của Sutskever, cũng thông báo từ chức vài giờ sau đó
- Ông nói rằng mình đã bất đồng lâu dài với ban lãnh đạo OpenAI về các ưu tiên cốt lõi của công ty và cuối cùng đã chạm đến giới hạn
- Vox đưa tin rằng kể từ tháng 11, ít nhất 5 nhân viên khác tại OpenAI vốn coi trọng an toàn đã rời đi hoặc bị gạt ra ngoài
- Một người đã nghỉ nói rằng họ dần đánh mất niềm tin vào ban lãnh đạo OpenAI
Bảo mật, thỏa thuận nghỉ việc và tranh chấp pháp lý
- Vox đưa tin nhân viên OpenAI phải ký các thỏa thuận thôi việc rất hạn chế nếu muốn giữ lại cổ phần đang nắm giữ
- Các thỏa thuận đó cấm họ chỉ trích công ty cũ suốt đời
- Ngay cả việc thừa nhận sự tồn tại của NDA cũng bị cấm
- Trên X, Altman nói rằng ông không biết về điều khoản cổ phần đó, đang viết lại hợp đồng, và sẽ sửa cả với các cựu nhân viên đã ký hợp đồng trước đây nếu họ liên hệ với ông
- MIT Technology Review từng đưa tin rằng trước đây OpenAI bị ám ảnh bởi việc giữ bí mật, bảo vệ hình ảnh và duy trì lòng trung thành của nhân viên
- The Information đưa tin vào tháng 4/2024 rằng 2 nhân viên OpenAI đã bị sa thải vì cáo buộc làm rò rỉ thông tin
- Trong quá trình vụ kiện của Authors Guild, các tài liệu cho thấy OpenAI đã xóa 2 bộ dữ liệu gồm hơn 100.000 cuốn sách đã xuất bản từng được dùng để huấn luyện các mô hình GPT đời đầu
- Những nhân viên đã sắp xếp các dữ liệu đó không còn ở OpenAI nữa
- OpenAI đã từ chối công khai lịch sử dữ liệu huấn luyện cho đến khi có vụ kiện
- Luật sư chính trong vụ kiện của New York Times đã gửi thư cho tòa án, nói rằng OpenAI đang trì hoãn quy trình khám phá chứng cứ bằng cách kéo dài đàm phán về lệnh bảo vệ và không nhanh chóng cung cấp thông tin cơ bản
- SEC đang điều tra các trao đổi liên lạc của Altman liên quan đến việc liệu ông và các lãnh đạo cấp cao khác của OpenAI có đánh lừa nhà đầu tư hay không
Vấn đề niềm tin mà vụ Sky để lại
- Altman từ lâu đã nói về tầm quan trọng của minh bạch, khẳng định mình khoan dung với những tiếng nói phản đối trong nội bộ OpenAI, và cũng đã tiếp xúc với chính phủ để thể hiện mình như một người quản lý AI có trách nhiệm
- Tuy nhiên, tranh cãi về Sky làm gia tăng nghi ngờ rằng phát ngôn công khai của Altman mâu thuẫn với cách OpenAI vận hành nội bộ, đối xử với nhân viên và xử lý vấn đề bảo mật
- Việc một giọng nói tương tự vẫn được công bố sau khi Johansson từ chối đã làm lung lay niềm tin rằng OpenAI đã tiến hành quá trình huấn luyện và lựa chọn giọng Sky một cách thiện chí
1 bình luận
Ý kiến trên Hacker News
Altman cố khiến mọi người tin rằng đó chỉ là một sự hiểu lầm ngây thơ, nhưng thực ra ông ấy không hề nói vậy: “Diễn viên lồng tiếng cho giọng Sky đã được tuyển trước khi liên hệ với Johansson”
Câu này khiến người ta có cảm giác như công ty không hề định làm cho nó nghe giống cô ấy mà không xin phép. Đây là kiểu câu đúng về mặt kỹ thuật như thể do luật sư viết ra, nhưng lại tạo ấn tượng sai lệch về thực tế, một kiểu ăn nói rất điển hình để chừa đường thoát. Không nên trao quá nhiều quyền lực đối với tương lai của chúng ta cho một người khéo léo, lảng tránh và cố ý gây hiểu lầm như vậy
Sam, ông muốn trả cát-xê cho cô ấy à? Thông thường người ta làm vậy là để khỏi phải trả khoản đó, nên nhiều khả năng họ đã tuyển diễn viên lồng tiếng trước khi liên hệ Johansson vì lý do đó
“Giọng nói của Sky không phải của Scarlett Johansson, và cũng không bao giờ có ý định làm cho nó giống cô ấy. Diễn viên lồng tiếng cho giọng Sky đã được tuyển trước khi liên hệ với Johansson. Để thể hiện sự tôn trọng với Johansson, chúng tôi đã tạm dừng sử dụng giọng Sky trong sản phẩm. Chúng tôi xin lỗi Johansson vì đã không trao đổi rõ ràng hơn.”
Tôi nghi ngờ điều này có đúng hay không, nhưng ít nhất đây cũng là một lời phủ nhận rõ ràng và không mập mờ
Đây là kiểu tư duy move fast and break things điển hình. Chỉ là nó đối nghịch trực diện với những gì Sam vẫn nói về việc sẽ làm mọi thứ một cách “thận trọng”, nên rốt cuộc những lời đó trông như màn khói che mắt
Một cách thực tế thì sẽ chẳng ai dừng lại để phát triển AGI cho thật cẩn trọng; nó đang được thúc đẩy như một cuộc chạy đua phát triển bom nguyên tử. Lịch sử cho thấy cuối cùng mọi thứ sẽ lao hết tốc lực mà không có phanh. ScarJo chỉ là ví dụ mới nhất bị nghiền nát trong quá trình đó, và có lẽ rồi sẽ còn nhiều người khác nữa
Có rất nhiều người có giọng giống Scarlett Johansson. Nếu SJ không muốn trở thành diễn viên lồng tiếng cho OpenAI, thì tôi không hiểu tại sao OpenAI lại không thể tìm một giọng tương tự để dùng
SJ không có độc quyền với mọi giọng nói giống mình. Những người có giọng như vậy cũng có quyền kiếm tiền bằng chính giọng của họ y như SJ, và trên thực tế đã có ai đó thực hiện quyền đó. So sánh giọng Sky với giọng SJ thì chúng không hề giống hệt nhau. Sai lầm của OpenAI là đã nhượng bộ SJ. Họ nên giữ Sky lại và bảo SJ thôi đi. Nếu bị kiện thì chỉ cần chứng minh họ đã dùng một diễn viên lồng tiếng khác, và đưa ra lập luận chính đáng rằng SJ không có độc quyền đối với các giọng nói tương tự mình
Có vẻ chỉ vì Scarlett nổi tiếng nên truyền thông mới làm rùm beng. Không hẳn là vụ này khiến mọi người bức xúc hơn bình thường; nhìn phần bình luận thì cảm xúc đó cũng không khác mấy so với những gì họ vốn đã nghĩ về OpenAI. Chỉ là giờ mọi người cùng lúc có một cái cớ để nói ra suy nghĩ của mình. Họ cư xử như thể công ty đã ăn cắp thứ gì đó theo đúng nghĩa đen. Việc OpenAI gỡ giọng Sky xuống cũng chẳng giúp ích gì. Nếu không có gì phải che giấu thì tại sao lại gỡ? Tất nhiên câu trả lời là vì Scarlett là một người giàu có nổi tiếng, nên dù không có cơ sở cô ấy vẫn có thể theo đuổi một vụ kiện cực kỳ tốn kém chống lại OpenAI. Dù vậy OpenAI lẽ ra vẫn nên chấp nhận cái giá đó; bây giờ họ trông như vừa bị bắt quả tang thò tay vào hũ bánh quy. Trong khi rốt cuộc chẳng ai có thể nói chính xác cái “bánh quy” nào đã bị lấy trộm
Tò mò không biết chủ đề này sẽ trụ được bao lâu trên HN
Dạo này @sama có ảnh hưởng đến mức nào ở đây? Nói thật là tôi chưa từng thấy ấn tượng về ông ấy. Ngoài việc nhận công cho những thành quả xuất sắc mà các nhà khoa học AI và kỹ sư của OpenAI đã làm, tôi không biết ông ấy thực sự đã làm hay tạo ra điều gì quan trọng. Công ty này tạo cảm giác như một phương tiện cho tham vọng và di sản của riêng ông ấy, chứ không hơn bao nhiêu
Tuyên bố của Scarlett Johansson về giọng nói OpenAI “Sky” - https://news.ycombinator.com/item?id=40421225 - tháng 5 năm 2024, 970 bình luận
Jan Leike rời OpenAI - https://news.ycombinator.com/item?id=40363273 - tháng 5 năm 2024, 391 bình luận
Ilya Sutskever rời OpenAI - https://news.ycombinator.com/item?id=40361128 - tháng 5 năm 2024, 780 bình luận
Thêm các vụ nghỉ việc ở OpenAI: Vì sao cựu nhân viên không thể lên tiếng? - https://news.ycombinator.com/item?id=40393121 - tháng 5 năm 2024, 961 bình luận
Tất cả đều là những chủ đề cực lớn. Đôi khi trên HN, một chủ đề được bàn luận rầm rộ trước, rồi nhà báo nhìn thấy và viết bài, sau đó người dùng lại gửi chính bài báo đó lên để tạo thêm một chủ đề HN khác. Không cần kiểu vòng lặp phản hồi như vậy. Khi nội dung lặp lại không còn đủ thú vị, tâm trí có xu hướng tự bù đắp bằng sự phẫn nộ (https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang), và các chủ đề trước đó cũng đã đủ giận dữ và lặp lại rồi. Ảnh hưởng của @sama là 0. Ngay cả khi còn điều hành YC, ông ấy cũng chưa từng yêu cầu thay đổi gì liên quan đến HN, và sau đó thì lại càng không. Nhân tiện, Sam chính là người đăng https://www.ycombinator.com/blog/two-hn-announcements/. Cá nhân tôi nhớ là đã nghe kiểu lời này về Sam từ thời Loopt. Có giả thuyết rằng việc pg từng công khai khen ngợi Sam rất nhiều đã khiến độc giả nảy sinh cảm giác “tại sao là người đó mà không phải tôi?”. Trớ trêu là Sam càng đạt được nhiều thứ thì lời than phiền lại càng lớn. Việc dẫn dắt OpenAI trong cơn bùng nổ công nghệ lớn nhất kể từ iPhone rõ ràng là một thành tựu lớn. Kể cả nếu Sam thống nhất được lực hấp dẫn với lý thuyết lượng tử, làm trung gian hòa bình Trung Đông, và chữa khỏi ung thư, những lời phàn nàn này có lẽ vẫn sẽ tiếp tục. Có vẻ nó không dựa trên thành tựu khách quan hay việc thiếu thành tựu, mà giống một hiện tượng thứ cấp nào đó, nên cũng khá thú vị. Ít nhất là nếu bạn không phải Sam
Thật thú vị khi mạch tranh luận về bản quyền và giấy phép lại chuyển sang “GPT với Google thì cái nào tốt hơn”
Gửi đến mọi nghệ sĩ và kỹ sư từng đóng góp cho tri thức chung: các bạn đã thua rồi. Mọi thứ các bạn làm để giúp người khác giờ đã trở thành một phần của mô hình, và không có cách nào lấy lại. Mấy đòn tấn công bản quyền mà giới nghệ sĩ định tung ra nhắm vào các công ty AI rốt cuộc thế nào rồi? Cảm giác như chuyện từ 100 năm trước
Việc kiện tụng mất thời gian thì chẳng có gì đáng ngạc nhiên. Cho đến khi tòa án làm rõ các điểm tranh chấp, OpenAI và các bên cùng loại vẫn đang hoạt động trong vùng xám pháp lý
[0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
Nghệ sĩ không được định nghĩa bởi các tác phẩm quá khứ hay đủ loại đầu ra lặt vặt, mà bởi góc nhìn và sự sáng tạo. Đây cũng không phải nhận thức gì mới. AI không liên quan đến điều đó; nó chỉ là phương tiện phục vụ mục đích. Vấn đề thực sự nằm ở luật pháp, còn phần còn lại là cường điệu hóa
Có ai khác thấy toàn bộ vụ việc này bị thổi phồng quá mức không? Tôi thật sự không hiểu phản ứng dữ dội từ giới công nghệ về chuyện này.
Sam Altman đã thử làm gì đó, ScarJo đã khởi kiện, và ChatGPT đã gỡ giọng nói xuống. Chỉ có vậy thôi. Hệ thống đã vận hành đúng như cách nó phải vận hành. Nhưng thật khó hiểu khi từ đó kết luận rằng ông ta là một con người tồi tệ. Chuyện này còn xa mới giống một tình huống kiểu #MeToo. Cô ấy là một diễn viên Hollywood giàu có và nổi tiếng, cô ấy sẽ ổn thôi
Nếu bỏ AI ra khỏi phương trình thì sao. Diễn viên lồng tiếng A thể hiện giọng Sky có phải sẽ không được nhận bất kỳ công việc lồng tiếng nào chỉ vì nghe quá giống SJ không?
Giả sử hãng làm phim Her muốn làm Her 2, nhưng SJ từ chối lồng tiếng. Vậy họ không thể thuê A để đảm nhận giọng nói đó sao? Nếu hãng phim đã hỏi lại SJ nhưng cô ấy vẫn từ chối, rồi họ làm bộ phim với A, như vậy có bị xem là thất lễ không? Tôi muốn biết mọi người vạch ranh giới ở đâu
Diễn viên không tham gia phim nếu không có hợp đồng chi tiết, nên các quy tắc thông thường có thể không áp dụng nguyên xi cho tình huống đó. Các nhà sản xuất Her có thể đã có quyền sử dụng hình tượng của SJ trong những tài liệu liên quan. Dù sao đi nữa, nếu họ làm phần tiếp theo với một giọng tương tự, diễn viên lồng tiếng đó sẽ không phải là “A” mà sẽ được ghi tên trong phần credit, và sẽ không có sự nhầm lẫn về việc đó là giọng của ai
Giữa hãng phim và Scarlett Johansson nhiều khả năng đã có hợp đồng quy định phải làm gì nếu cô ấy không muốn tham gia phần tiếp theo. Giữa OpenAI và Scarlett Johansson thì không có hợp đồng như vậy
Họ đã thuê một diễn viên lồng tiếng cho giọng Sky
Nếu OpenAI thua kiện, liệu diễn viên này sẽ không thể tiếp tục làm việc nữa chỉ vì tình cờ có giọng giống một diễn viên khác sao? Diễn viên lồng tiếng của Sky cũng có thể kiện các bộ phim có Johansson tham gia, nói rằng Johansson đã bắt chước giọng của mình không?
Xâm phạm quyền công khai hình ảnh/cá tính không đơn thuần chỉ là sự tương đồng về giọng nói
Có ai khác cảm thấy, dù nghe có thể như bôi nhọ, rằng Sam Altman đang dần tiến tới một thảm họa danh tiếng gần một cách lố bịch với Sam Bankman-Fried không? Tôi đã thấy góc nhìn này nhiều lần trên Twitter/X
Cảm giác rùng mình như thể cảnh “I do not agree” trong Ghost in the Shell đang diễn ra ngoài đời thật
https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d