Vụ cựu người tố giác nội bộ OpenAI được phát hiện tử vong trong căn hộ ở San Francisco
(mercurynews.com)- Suchir Balaji, cựu nhà nghiên cứu từng được nhắc đến là người có thể cung cấp lời khai và tài liệu trong vụ kiện bản quyền chống lại OpenAI, đã được phát hiện tử vong tại nhà riêng ở San Francisco vào ngày 26/11, và nhà chức trách kết luận nguyên nhân tử vong là tự sát
- Trước khi qua đời, Balaji đã công khai chỉ trích OpenAI vì cho rằng công ty vi phạm luật bản quyền Mỹ trong quá trình huấn luyện ChatGPT, đồng thời cho rằng việc sử dụng dữ liệu huấn luyện không thuộc phạm vi sử dụng hợp lý
- Phía New York Times trong hồ sơ nộp lên tòa án liên bang ngày 18/11 đã xác định Balaji là người nắm giữ “unique and relevant documents” có thể hỗ trợ cho vụ kiện
- Sau khi ChatGPT được công bố, các nhà văn, lập trình viên và cơ quan báo chí đã khởi kiện, cáo buộc OpenAI sử dụng trái phép tài liệu có bản quyền để huấn luyện; Mercury News cùng 7 cơ quan chị em và New York Times cũng tham gia
- OpenAI bác bỏ, cho rằng công việc của mình là hợp pháp theo nguyên tắc sử dụng hợp lý, và tin rằng các công cụ AI như ChatGPT có thể củng cố mối quan hệ giữa nhà xuất bản với độc giả cũng như nâng cao trải nghiệm tin tức
Cái chết của Suchir Balaji và nhận định của nhà chức trách
- Cựu nhà nghiên cứu OpenAI Suchir Balaji được phát hiện tử vong ở tuổi 26 trong căn hộ trên phố Buchanan, San Francisco vào ngày 26/11
- Cảnh sát đã đến nơi cư trú ở Lower Haight vào khoảng 1 giờ chiều hôm đó
- Lý do xuất động là một cuộc gọi yêu cầu kiểm tra tình trạng an toàn của anh
- Sở cảnh sát San Francisco và Văn phòng giám định pháp y trưởng đã xác nhận cái chết trong tuần này
- Văn phòng giám định kết luận hình thức tử vong là tự sát
- Cảnh sát cho biết hiện không có bằng chứng về hành vi phạm tội
- Mẹ của Balaji đề nghị được tôn trọng quyền riêng tư trong lúc gia đình đang đau buồn trước cái chết của anh
Vai trò trong vụ kiện bản quyền OpenAI
- Thông tin mà Balaji nắm giữ được kỳ vọng sẽ đóng vai trò quan trọng trong vụ kiện nhằm vào OpenAI có trụ sở tại San Francisco
- Các luật sư phía New York Times trong hồ sơ nộp tòa án liên bang ngày 18/11 đã xác định Balaji là người nắm giữ “unique and relevant documents” có thể hỗ trợ cho vụ kiện chống lại OpenAI
- Trước thủ tục lấy lời khai, anh là một trong ít nhất 12 người được nêu tên trong tài liệu tòa án là đang sở hữu tài liệu hữu ích cho vụ việc
- Nhiều người trong số đó là nhân viên OpenAI hiện tại hoặc trước đây
Nêu vấn đề về dữ liệu huấn luyện của ChatGPT
- Cái chết của Balaji xảy ra 3 tháng sau khi anh công khai chỉ trích OpenAI vì cho rằng công ty đã vi phạm luật bản quyền Mỹ trong quá trình phát triển ChatGPT
- ChatGPT là chương trình AI tạo sinh được hàng trăm triệu người trên toàn thế giới sử dụng, ra mắt vào cuối năm 2022
- Trong cuộc phỏng vấn với New York Times công bố ngày 23/10, anh cho rằng OpenAI đang gây tổn hại cho các công ty và nhà sáng lập là chủ sở hữu ban đầu của dữ liệu được dùng để huấn luyện ChatGPT
- Balaji nói: “Nếu bạn tin vào điều tôi tin, bạn buộc phải rời công ty”, và rằng “đây không phải là một mô hình bền vững cho toàn bộ hệ sinh thái internet”
- Cuối tháng 10, anh đăng một bài phân tích trên website cá nhân để lập luận rằng việc sử dụng dữ liệu huấn luyện cho ChatGPT không thuộc phạm vi sử dụng hợp lý
- Anh viết rằng rất khó tìm ra các yếu tố khiến việc sử dụng dữ liệu huấn luyện của ChatGPT nghiêng về phía sử dụng hợp lý
- Tuy vậy, anh cũng nói lập luận này không chỉ giới hạn ở ChatGPT mà có thể áp dụng tương tự cho các sản phẩm AI tạo sinh trong nhiều lĩnh vực khác nhau
Thời gian làm việc tại OpenAI và sự thay đổi quan điểm
- Balaji lớn lên ở Cupertino và học khoa học máy tính tại UC Berkeley
- Khi đó, anh tin vào những lợi ích tiềm năng mà AI có thể mang lại cho xã hội, bao gồm cả khả năng chữa bệnh và chống lão hóa
- Anh gia nhập OpenAI với vai trò nhà nghiên cứu vào năm 2020
- Từ năm 2022, quan điểm của anh bắt đầu chuyển theo hướng tiêu cực
- Đặc biệt, anh lo ngại về công việc thu thập dữ liệu từ internet cho chương trình GPT-4
- Chương trình này được cho là đã phân tích gần như toàn bộ văn bản trên internet để huấn luyện AI
- Balaji cho rằng thực tiễn này xung đột với luật sử dụng hợp lý của Mỹ, vốn điều chỉnh việc sử dụng các ấn phẩm hiện có
OpenAI và các vụ kiện từ báo chí
- Sau khi ChatGPT ra mắt vào cuối năm 2022, hàng loạt vụ kiện nhằm vào OpenAI đã xuất hiện
- Các nhà văn, lập trình viên máy tính và nhà báo cho rằng OpenAI đã lấy trái phép tài liệu có bản quyền để huấn luyện chương trình và qua đó đẩy giá trị công ty lên hơn 150 tỷ USD
- Mercury News cùng 7 cơ quan báo chí chị em đã khởi kiện OpenAI trong năm qua cùng với nhiều tờ báo khác, trong đó có New York Times
- Các cơ quan báo chí cho rằng OpenAI và Microsoft đã đạo văn và đánh cắp các bài báo, làm suy yếu mô hình kinh doanh tin tức
- Hồ sơ kiện cho rằng Microsoft và OpenAI đã lấy tác phẩm của các phóng viên, cây bút bình luận, biên tập viên và những người tạo ra tin tức mà cộng đồng phụ thuộc vào, mà không quan tâm đến quyền pháp lý
- Microsoft có quan hệ kinh doanh với OpenAI và cũng nằm trong danh sách bị đơn trong vụ kiện của Mercury News
Phản bác của OpenAI và sự lan rộng của AI tạo sinh
- OpenAI mạnh mẽ bác bỏ các cáo buộc liên quan
- Công ty nhấn mạnh rằng toàn bộ công việc của mình là hợp pháp theo luật sử dụng hợp lý
- Khi vụ kiện được khởi xướng, OpenAI cho biết các công cụ AI như ChatGPT có tiềm năng lớn trong việc làm sâu sắc hơn mối quan hệ giữa nhà xuất bản và độc giả cũng như cải thiện trải nghiệm tin tức
- Các chương trình AI tạo sinh hoạt động bằng cách phân tích lượng dữ liệu khổng lồ trên internet rồi trả lời prompt của người dùng hoặc tạo ra văn bản, hình ảnh và video
- Việc ra mắt ChatGPT đã nhanh chóng thúc đẩy ngành công nghiệp gồm các công ty làm công cụ viết luận, sáng tạo nghệ thuật và sinh mã
- Nhiều công ty giá trị nhất thế giới đang hoạt động trong lĩnh vực AI hoặc sản xuất chip máy tính cần thiết để chạy các chương trình đó
- Giá trị doanh nghiệp của OpenAI gần như đã tăng gấp đôi trong vòng một năm qua
Thông tin hỗ trợ khủng hoảng
- Những người đang gặp khó khăn vì trầm cảm hoặc ý nghĩ tự sát có thể nhận hỗ trợ miễn phí 24/7, thông tin và các nguồn trợ giúp từ 988 Suicide & Crisis Lifeline
- Có thể gọi điện hoặc nhắn tin đến 988, hoặc trò chuyện qua website 988lifeline.org
1 bình luận
Ý kiến trên Hacker News
Tôi từng học cùng Suchir trong lớp CS ở Berkeley (hệ điều hành) và làm chung dự án với anh ấy, thật sự rất thông minh, khiêm tốn và là một người tốt
Rõ ràng anh ấy là người sẽ làm nên chuyện lớn về sau, nên chuyện này quá khủng khiếp
Tôi thấy có khá nhiều bình luận lạnh lùng trong chủ đề này
Suchir mới chỉ 26 tuổi và chỉ mới tốt nghiệp Berkeley được 3 năm. Trang cá nhân là https://suchir.net/
Tôi nghĩ việc một người chỉ mới ra trường vài năm dám đứng lên chống lại điều bất công mà một trong những công ty lớn nhất thế giới bị cho là đã gây ra là một việc khá dũng cảm. Tôi không biết có bao nhiêu người sẽ làm được như vậy nếu ở cùng hoàn cảnh
Tôi thấy đau lòng cho gia đình anh ấy. Chắc chắn anh ấy là một kỹ sư tài năng, và thành tích thi đấu lập trình trên LinkedIn cũng rất ấn tượng. Có lẽ anh ấy cũng có tài khoản HN
Trước khi viết về định nghĩa người tố giác hay các giả thuyết ám sát, tôi mong mọi người dừng lại một chút để nghĩ xem nếu đó là bản thân mình hay bạn bè mình trong hoàn cảnh ấy, liệu có muốn những bài viết như vậy xuất hiện không
Nếu tôi âm thầm tự kết thúc cuộc đời thì tôi sẽ muốn mọi thứ lặng lẽ trôi qua, nhưng chỉ nhìn từ bài báo này thì chưa rõ người này quan trọng đến mức nào trong vụ kiện sắp tới
Có câu: “Thông tin mà anh ấy nắm giữ được dự đoán sẽ đóng vai trò then chốt trong vụ kiện chống lại công ty có trụ sở tại San Francisco”
Việc đó trở thành di sản công khai của anh ấy thực sự rất đáng buồn. Rõ ràng anh ấy là một người xuất sắc, và nếu còn sống thêm vài chục năm nữa có lẽ đã giúp thay đổi thế giới theo hướng tốt đẹp hơn
Tuy vậy, các giả thuyết ám sát đúng nghĩa chỉ là giả thuyết, thậm chí gọi là “giả thuyết” theo nghĩa chặt chẽ còn hơi quá. Về cơ bản đó chỉ là lời đồn, không có đầu mối nào đủ để lần theo, nên đi theo hướng đó có vẻ không mấy hiệu quả
Dù là diễn đàn Internet nào thì cũng luôn có vài câu nói kém duyên, nhưng những thứ đó giờ đã chìm xuống bên dưới rồi
Xin cho anh ấy an nghỉ
Tôi thấy cách gọi “người tố giác” ở đây hơi gây bối rối. Anh ấy có thực sự công khai điều gì đó trước đó chưa từng được biết đến không?
Có vẻ anh ấy không đồng ý với vấn đề “fair use”, và vì là người trong công ty nên được chú ý. Bản thân các sự kiện thực tế thì vốn đã được biết đến, và việc OpenAI huấn luyện bằng dữ liệu văn bản có bản quyền được công khai cũng đã được biết từ lâu. Có lẽ gọi là người phản đối hay người chỉ trích từ bên trong thì đúng hơn
Rất có khả năng anh ấy cũng có các trao đổi nội bộ liên quan đến tính hợp pháp của công việc mình làm, và đã công khai chất vấn cấp trên về vấn đề đó
http://suchir.net/fair_use.html
Bài viết của Suchir Balaji, Khi nào AI tạo sinh được coi là fair use
Anh ấy nói rằng mình đã trao đổi với The New York Times về fair use và AI tạo sinh, và giải thích chi tiết trong bài blog (https://suchir.net/fair_use.html) vì sao anh cho rằng trong nhiều sản phẩm AI tạo sinh, “fair use” khó có thể là một lập luận bào chữa thuyết phục
Anh ấy làm ở OpenAI gần 4 năm, trong đó 1,5 năm cuối tham gia ChatGPT, ban đầu không hiểu nhiều về bản quyền và fair use nhưng rồi bắt đầu quan tâm khi theo dõi các vụ kiện nhắm vào các công ty AI tạo sinh. Sau khi tìm hiểu kỹ hơn, anh kết luận rằng với nhiều sản phẩm AI tạo sinh, việc viện dẫn fair use là khá khó, vì lý do cơ bản là chúng có thể tạo ra sản phẩm thay thế cạnh tranh với dữ liệu huấn luyện
Dù không phải luật sư, anh vẫn cho rằng ngay cả người không làm luật cũng cần hiểu điều khoản pháp luật và lý do luật đó tồn tại, đồng thời nói rằng anh không muốn vấn đề này bị đọc như một lời chỉ trích chỉ nhắm vào ChatGPT hay OpenAI. Anh nhấn mạnh rằng các nhà nghiên cứu machine learning cần học nhiều hơn về bản quyền, và những án lệ thường được trích dẫn như Google Books có thể không có lợi như vẻ bề ngoài
Với một người không phải luật sư thì đây là góc nhìn rất sâu sắc. Xin cho anh ấy an nghỉ
Thứ nhất, các tác giả trên thực tế không kiếm được tiền từ tiền bản quyền, mà rốt cuộc phải dựa vào doanh thu quảng cáo, và điều đó dẫn đến suy giảm chất lượng dịch vụ. Họa sĩ, copywriter và nhạc sĩ mà chỉ sống bằng tiền bản quyền thì sẽ chết đói
Thứ hai, bản quyền ngày càng tập trung vào tay một số ít công ty và không mang lại nhiều lợi ích thực sự cho tác giả hay độc giả
Thứ ba, đối thủ cạnh tranh của tác phẩm sáng tạo mới trên thực tế không phải AI, mà là những tác phẩm cũ đã tích tụ trên web suốt 25 năm qua
Tôi không nghĩ thứ chúng ta cần là bản quyền bị hạn chế nhiều hơn. Con người đã chuyển từ tiêu thụ thụ động sang tương tác, và thích game, mạng xã hội và công cụ tìm kiếm hơn TV, báo chí hay radio. Đây là xu hướng do Internet tạo ra nên không thể đảo ngược
Giờ đây chúng ta có Wikipedia, GitHub, Linux, mã nguồn mở, public domain, xuất bản khoa học mở, và một môi trường không hạn chế cho việc chia sẻ và bình luận
Nếu đẩy việc bảo hộ bản quyền đến cực đoan thì kết cục sẽ là phải bảo hộ không chỉ cách biểu đạt mà cả ý tưởng trừu tượng, vì AI tạo sinh có thể dễ dàng lách phần biểu đạt. Nhưng nếu ngăn tái sử dụng cái trừu tượng thì đó sẽ là thảm họa với sáng tạo. Tôi cho rằng bản quyền giờ thực chất là một thể chế đang hấp hối
Cảnh sát hiện nói rằng đã kết luận là tự sát
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir là một người có nguyên tắc, và rất có thể vì lập trường đó mà anh ấy đã phải từ bỏ quyền chọn cổ phần ở OpenAI. Có báo cáo rằng hợp đồng nghỉ việc của OpenAI rất hạn chế [1]
“Ngăn cựu nhân viên chỉ trích công ty cũ suốt đời. Ngay cả việc thừa nhận NDA tồn tại cũng là vi phạm
Nếu người nghỉ việc từ chối ký tài liệu hoặc vi phạm, họ có thể mất toàn bộ số cổ phần đã vest trong thời gian làm việc tại công ty, với giá trị có thể lên tới hàng triệu đô la”
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
Đến mức khiến người ta có cảm giác như việc công khai nguyên nhân cái chết của một người tố giác nội bộ cũng bị xem là thứ có thể lây lan
Thật nực cười khi OpenAI lại sợ bị chỉ trích đến vậy. Họ đang hành xử như một đứa trẻ ăn vạ khi mọi chuyện không theo ý mình, và phải luôn nhớ rằng xét về mặt tuổi tác thì những người làm việc này dù sao cũng là người trưởng thành
Cổ phần đã vest sẽ không bị hủy, bất kể nhân viên có ký thỏa thuận thôi việc hay thỏa thuận không bôi nhọ hay không
Các cựu nhân viên được giải phóng khỏi nghĩa vụ không bôi nhọ
OpenAI đã thông báo với cả nhân viên hiện tại và cũ rằng họ “chưa từng hủy các đơn vị đã vest và cũng sẽ không làm vậy trong tương lai”
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
Tôi nói “buồn cười” vì các công ty đôi khi cố nhồi nhét mấy điều khoản nhỏ rồi sau đó xin lỗi, nhưng bảo rằng bạn bị ràng buộc suốt đời thì đúng là ở mức hài kịch
Xin gửi lời chia buồn tới gia đình. Có vẻ anh ấy là một người rất sâu sắc và có nguyên tắc
Thật sự quá buồn. Suchir học cùng trường trung học với tôi, và cả hai chúng tôi đều từng học ở Berkeley. Tôi luôn tin rằng cậu ấy cực kỳ thông minh và sẽ làm nên chuyện lớn hoặc những điều thú vị
Nếu bạn đang thấy khó khăn khi đọc bài này, tôi muốn nói rằng bạn không hề đơn độc. Dù lúc này có thể bạn không cảm thấy như vậy, thế giới thật lòng mong bạn được hạnh phúc
Con đường vẫn luôn rộng mở: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
Cha mẹ anh ấy đang nghi ngờ kết luận tự sát và đã yêu cầu thực hiện cuộc khám nghiệm tử thi độc lập lần hai: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
Thật sự quá buồn, và tôi rất đau lòng cho gia đình và bạn bè của Suchir
Với tư cách là người đã làm việc hơn 10 năm trong ngành công nghệ và từng vật lộn với ý nghĩ tự sát, tôi tự hỏi liệu văn hóa điên rồ của giới công nghệ ở Bay Area có góp phần vào chuyện này hay không
Không chỉ có văn hóa hustle cực đoan, mà còn có cả kiểu lạc quan công nghệ ngây thơ có thể khiến con người phát điên. Bị vây quanh bởi những người nghĩ rằng vi phạm pháp luật cũng không sao, bóc lột lao động ở các nước đang phát triển để có hỗ trợ kỹ thuật giá rẻ, nhưng vẫn tin rằng mình đang thay đổi thế giới bằng cách bán thiết bị nhà bếp thông minh. Trong khi đó họ vẫn bước qua những nạn nhân sốc thuốc ngay bên ngoài khu căn hộ của mình
Kiểu tư duy này phổ biến đến mức khiến tôi tự nghi ngờ liệu mình, một người có sự đồng cảm và cảm nhận về công lý, mới là kẻ kỳ lạ hay không
Tôi không biết gì cụ thể, nhưng việc chuyển từ một sinh viên rõ ràng xuất sắc ở Berkeley sang một startup khắc nghiệt như OpenAI hẳn là một cú sốc. Giống như sau cả đời nỗ lực để đạt đến mục tiêu, rồi nhận ra việc mình đang làm hoàn toàn đi ngược lại đạo đức và giá trị của bản thân
Điều này vẫn đúng ngay cả khi nhà tuyển dụng gây ra vấn đề không chủ động trả đũa, và nếu còn có kiểu trả đũa như các phòng nhân sự trong cùng ngành chia sẻ danh sách đen với nhau thì triển vọng lại càng u ám hơn
Hội chứng kẻ mạo danh rất phổ biến với các kỹ sư ở mọi nấc thang sự nghiệp và mọi mức năng lực. Ngoài áp lực vốn có của kỹ thuật, còn có thêm nhiều lý do khác khiến con người cảm thấy căng thẳng hay áp lực, cùng với các yếu tố khuếch đại rất đặc trưng của Bay Area
Bạn sẽ ngạc nhiên nếu biết đã có bao nhiêu người xuất sắc và đầy năng lực gục ngã. Nếu ai đó đang cảm thấy mình chỉ có một mình, tôi mong họ đừng nghĩ vậy. Dù những người xung quanh đều có vẻ hạnh phúc và tự tin, tôi dám chắc có nhiều người đang chật vật hơn bạn tưởng rất nhiều
Một trong số đó hiện đang bị FTC truy tố vì các vi phạm quy mô lớn. Tôi thực sự ghét kiểu tư duy vô đạo đức sẵn sàng hy sinh mọi thứ, từ sự thoải mái của nhân viên đến các hành vi phạm pháp trắng trợn với khách hàng, chỉ để chiến thắng