Sam Altman có thể sẽ kiểm soát tương lai của chúng ta – liệu có thể tin ông ấy không?
(newyorker.com)- Ngay từ những ngày đầu thành lập, OpenAI đã xác định AI là công nghệ mạnh mẽ nhất và có khả năng nguy hiểm nhất trong lịch sử loài người, khởi đầu dưới hình thức tổ chức phi lợi nhuận với cấu trúc đặt sự an toàn của nhân loại lên trên sự tồn tại của công ty, nhưng sau đó nguyên tắc này dần trở nên hình thức khi công ty chuyển sang mô hình vì lợi nhuận
- Sự kiện 'Blip' vào tháng 11/2023, khi hội đồng quản trị do đồng sáng lập Ilya Sutskever dẫn dắt bất ngờ sa thải Altman rồi đưa ông trở lại chỉ sau 5 ngày, là trường hợp điển hình cho thấy những nghi ngờ mang tính nền tảng về độ đáng tin cậy và tính minh bạch của Altman đã bùng nổ thành một cuộc đấu đá quyền lực thực sự trong nội bộ tổ chức
- Hàng trăm trang tài liệu do các đồng nghiệp cũ để lại chứa những cáo buộc cụ thể rằng Altman đã nhiều lần che giấu sự thật hoặc nói khác nhau với hội đồng quản trị, ban điều hành và nhà đầu tư; một thành viên hội đồng còn mô tả ông là "một người không bị ràng buộc bởi sự thật"
- OpenAI hiện đang chuẩn bị cho đợt IPO với định giá doanh nghiệp 1 nghìn tỷ USD, còn Altman đang thúc đẩy việc xây dựng hạ tầng AI quy mô lớn bằng nguồn vốn từ các quốc gia vùng Vịnh và giành các hợp đồng với quân đội Mỹ, đảm nhận vai trò nhà môi giới trung tâm trong cuộc cạnh tranh bá quyền AI
- Trong bối cảnh các nhóm nghiên cứu an toàn AI liên tiếp bị giải thể và văn hóa ưu tiên sản phẩm, doanh thu hơn an toàn ngày càng ăn sâu, hệ thống an toàn ở cấp độ hiện sinh của OpenAI đang ngày càng xa rời những cam kết khi sáng lập
Khởi đầu của vụ sa thải — bản ghi nhớ của Ilya và quyết định của hội đồng quản trị
- Vào mùa thu năm 2023, nhà khoa học trưởng của OpenAI Ilya Sutskever đã gửi cho 3 giám đốc đồng cấp một bản ghi nhớ mật dài 70 trang đặt vấn đề về tư cách của CEO Sam Altman và chủ tịch Greg Brockman
- Nội dung được biên tập từ tin nhắn Slack và tài liệu HR, kèm theo các hình ảnh chụp bằng thiết bị cá nhân để tránh bị phát hiện
- Được gửi dưới dạng tin nhắn tự hủy để ngăn rò rỉ ra bên ngoài
- Bản ghi nhớ cáo buộc Altman bóp méo sự thật và đánh lừa về các quy trình an toàn nội bộ trước ban điều hành và hội đồng quản trị
- Tiêu đề mục đầu tiên trong bản ghi nhớ: "Sam exhibits a consistent pattern of… Lying"
- Thành viên hội đồng Helen Toner (chuyên gia chính sách AI) và Tasha McCauley (doanh nhân) tiếp nhận bản ghi nhớ như là "sự xác nhận cho những gì họ vốn đã tin"
- Khi Altman đang xem giải đua F1 ở Las Vegas, Sutskever đã thông báo sa thải qua cuộc gọi video
- Thông báo công khai chỉ nêu rằng ông "không nhất quán trong việc trao đổi một cách thẳng thắn"
'Blip' — 5 ngày đấu đá quyền lực sau vụ sa thải
- Microsoft chỉ được thông báo ngay trước khi việc sa thải diễn ra, và Satya Nadella nói rằng ông "hoàn toàn không hiểu chuyện gì đang xảy ra"
- Thrive Capital, khi đó đang chuẩn bị đầu tư vào OpenAI ở mức định giá 8,6 tỷ USD, đã hoãn đầu tư với điều kiện Altman phải trở lại
- Ngay sau khi về nhà, Altman đã dựng một phòng chiến lược ứng phó khủng hoảng trong nhà riêng
- Có sự tham gia của nhà đầu tư Ron Conway, đồng sáng lập Airbnb Brian Chesky và chuyên gia xử lý khủng hoảng Chris Lehane
- Các luật sư túc trực tại văn phòng cạnh phòng ngủ, còn Altman đi lại trong bộ đồ ngủ
- Có lời khai cho rằng phía Altman đã cảnh báo rằng họ đang "tìm thông tin để làm tổn hại danh tiếng" của những người phía đối lập như Mira Murati (Altman phủ nhận vì nói không nhớ)
- Microsoft gây sức ép khi công bố thành lập một nhóm riêng cho Altman và các nhân viên rời đi
- Phần lớn nhân viên OpenAI ký thư ngỏ yêu cầu đưa Altman trở lại, và hội đồng quản trị đã hủy quyết định sa thải
- Cuối cùng Sutskever cũng ký vào thư, và hội đồng quyết định phục chức trong áp lực rằng "công ty sẽ sụp đổ"
Sau khi trở lại — vô hiệu hóa điều tra và tái cấu trúc quản trị
- Altman yêu cầu các giám đốc đã sa thải mình phải từ chức; những người bỏ phiếu ủng hộ việc sa thải là Helen Toner, Tasha McCauley và Sutskever đều bị loại khỏi hội đồng quản trị
- Điều kiện rời nhiệm sở là phải yêu cầu một cuộc điều tra độc lập từ bên ngoài, và khi bổ nhiệm giám đốc mới thì chọn những người đã được tham vấn chặt chẽ với Altman
- Lawrence Summers và Bret Taylor gia nhập với tư cách giám đốc mới
- Hãng luật WilmerHale phụ trách điều tra, nhưng hơn 6 người cho rằng đây là một cuộc điều tra được thiết kế để hạn chế tính minh bạch
- Bị chỉ ra các vấn đề như bỏ sót phỏng vấn những người liên quan quan trọng và bảo đảm ẩn danh không đầy đủ
- Tháng 3/2024, OpenAI kết luận Altman không có sai phạm nhưng hoàn toàn không lập báo cáo
- Chỉ tiến hành briefing bằng lời, và quyết định không viết báo cáo được cho là dựa trên lời khuyên của luật sư riêng của Summers và Taylor
- Có người liên quan nói rằng "sự vắng mặt của báo cáo đã góp phần làm giảm nhẹ các cáo buộc"
- Sau đó Summers từ chức giám đốc vì các email liên quan đến Jeffrey Epstein bị công khai
- Sau đó OpenAI phát triển thành một trong những công ty giá trị nhất thế giới, đồng thời chuẩn bị IPO 1 nghìn tỷ USD
- Altman cũng tham gia vào mở rộng hạ tầng AI, hợp đồng chính phủ và chuẩn hóa các hệ thống giám sát và vũ khí
- Tuy nhiên bên trong công ty, các chỉ trích rằng hành vi mang tính lừa dối của Altman vẫn lặp lại vẫn tiếp diễn
Tính cách và sự nghiệp ban đầu của Altman — phóng đại, thuyết phục và khát vọng quyền lực
- Ông sinh ra ở Clayton, bang Missouri, lớn lên trong một gia đình khá giả và từng có trải nghiệm bị tấn công vì kỳ thị đồng tính khi còn là thiếu niên
- Khi học tại Stanford, ông rèn khả năng kinh doanh qua các ván poker, rồi bỏ học để tham gia khóa đầu tiên của Y Combinator (YC) và thành lập Loopt
- Loopt là một mạng xã hội dựa trên vị trí nhưng không tăng trưởng thành công và đã được bán vào năm 2012
- Ngay từ thời Loopt, ông đã bị chỉ ra là có xu hướng phóng đại: từng khoe mình là nhà vô địch bóng bàn nhưng thực tế lại thuộc nhóm thấp nhất trong văn phòng
- Cựu nhân viên Mark Jacobstein nói: "Nếu ranh giới giữa điều tôi nghĩ và điều tôi đã đạt được trở nên mơ hồ theo cách tệ nhất, nó sẽ thành Theranos"
- Một nhóm nhân viên đã hai lần yêu cầu hội đồng quản trị sa thải ông nhưng không thành
- Loopt được bán cho một công ty fintech vào năm 2012, và có người liên quan nói đây là "một thương vụ chủ yếu được dàn xếp để giữ thể diện cho Altman"
- Năm 2014, Paul Graham chỉ định Altman làm người kế nhiệm mình ở vị trí chủ tịch Y Combinator
- Có mô tả rằng khi Graham thông báo, Altman nở một nụ cười không kìm được và nói "it worked"
Thời kỳ lãnh đạo Y Combinator — xung đột lợi ích và bối cảnh rời đi
- Khi làm chủ tịch YC, ông bị chỉ trích là ngăn các nhà đầu tư khác tham gia và tự mình thực hiện các khoản đầu tư cá nhân một cách chọn lọc (Altman phủ nhận)
- Có người liên quan nói rằng khi đầu tư vào Stripe, ông đã khiến các đối tác bối rối vì đòi tỷ lệ cổ phần lớn hơn thỏa thuận của Sequoia Capital
- Khoản đầu tư đầu tiên của Altman là 15.000 USD (2%) → giá trị hiện tại của Stripe hơn 150 tỷ USD
- Năm 2018, nhiều đối tác YC đã phàn nàn với Graham về hành vi của Altman
- Nhiều người liên quan làm chứng rằng Graham từng nói riêng: "Sam had been lying to us all the time"
- Altman khẳng định mình chưa từng bị sa thải và Graham cũng phủ nhận trong thông báo chính thức, nhưng hồ sơ nội bộ cho thấy đây "không hoàn toàn là một cuộc chia tay trên cơ sở đồng thuận lẫn nhau"
- Trong hồ sơ công bố với SEC năm 2021, Altman được ghi là chủ tịch YC, nhưng bản thân ông nói rằng "về sau mới biết"
Thành lập OpenAI — tính hai mặt giữa danh nghĩa an toàn và việc huy động vốn
- Năm 2015, tiếp cận Elon Musk qua email với lập luận "AI có thể nguy hiểm hơn vũ khí hạt nhân", đồng thời đề xuất OpenAI như một "Dự án Manhattan phiên bản AI"
- Hai người đồng sáng lập OpenAI, và Musk cam kết tài trợ 1 tỷ USD
- OpenAI đặt mục tiêu “phát triển AGI vì lợi ích của toàn nhân loại”, đồng thời lấy ngăn chặn chế độ độc tài AGI làm nguyên tắc cốt lõi
- Nguyên tắc thành lập: "an toàn là yêu cầu ưu tiên hàng đầu", "tích cực ủng hộ mọi quy định"
- Năm 2017, Musk yêu cầu chuyển OpenAI thành công ty vì lợi nhuận và giành quyền kiểm soát, nhưng Altman từ chối
- Sau đó Musk rời đi và thành lập đối thủ xAI vào năm 2023, đồng thời khởi kiện Altman và OpenAI vì gian lận và vi phạm ủy thác từ thiện (vụ kiện vẫn đang diễn ra)
- Dù đã hứa với các nhân viên đầu tiên rằng tổ chức sẽ giữ nguyên mô hình phi lợi nhuận thuần túy và khiến họ chấp nhận cắt giảm lương, nhưng tài liệu nội bộ cho thấy từ năm 2017 đã có dấu vết thảo luận về việc chuyển sang mô hình vì lợi nhuận
- Sutskever đọc bài báo về kiến trúc Transformer của Google vào năm 2017, hét lên rằng "chính là nó" và thúc giục cả đội xoay trục toàn diện; sau đó điều này trở thành hạt giống của GPT
- Một số kỹ sư đặt câu hỏi về ban lãnh đạo, nói rằng: “Liệu chúng ta có trở thành phe phản diện rồi không?”
Dario Amodei và việc sáng lập Anthropic — rạn nứt trong các nguyên tắc an toàn
- Amodei đã viết trong nhiều năm một bản ghi chép cá nhân dài hơn 200 trang mang tên "My Experience with OpenAI"
- Năm 2018, Dario Amodei chỉ trích sứ mệnh mơ hồ và cách vận hành đặt nặng vốn đầu tư của OpenAI
- Ông đề xuất "điều khoản Merge and Assist", theo đó “nếu một dự án khác tạo ra AGI an toàn trước thì sẽ hợp tác với họ”
- Trong quá trình ký thỏa thuận đầu tư với Microsoft năm 2019, một điều khoản vô hiệu hóa điều khoản trên đã bị lặng lẽ thêm vào
- Ban đầu Altman phủ nhận sự tồn tại của điều khoản đó, nhưng khi Amodei đọc trực tiếp cho ông nghe thì ông rút lại lời phủ nhận
- Những phát ngôn kiểu "Tôi không nói vậy. Chính bạn vừa nói đó" lặp đi lặp lại (Altman phủ nhận vì nói không nhớ)
- Amodei cho rằng Altman đã cáo buộc anh và chị gái Daniela là đang 'âm mưu đảo chính'; khi Daniela gọi các lãnh đạo liên quan để xác nhận, Altman nói rằng: "Tôi chưa từng nói như vậy"
- Năm 2020, anh em nhà Amodei cùng các đồng nghiệp rời công ty để sáng lập Anthropic
Giải thể nhóm an toàn và thất hứa về tài nguyên
- Khi công bố thành lập "superalignment team" vào năm 2023, OpenAI hứa cung cấp "20% năng lực tính toán đã được bảo đảm"
- Theo lời kể nội bộ của nhóm, tài nguyên thực tế được phân chỉ ở mức 1–2%, và họ được cấp các cụm máy cũ cùng chip hiệu năng thấp
- Các nhà nghiên cứu cho rằng “chip mới nhất chỉ được dùng cho mảng kinh doanh sinh lời”, còn OpenAI phủ nhận điều này
- Trưởng nhóm Jan Leike nói rằng “lời hứa này là cách để giữ chân nhân tài”
- Ông phản đối với Murati nhưng nhận được câu trả lời rằng đó là "một lời hứa không thực tế"
- Jan Leike gửi email cho hội đồng quản trị cảnh báo rằng "OpenAI đang lệch khỏi sứ mệnh; sản phẩm, doanh thu và năng lực AI được ưu tiên, còn an toàn đứng thứ ba"
- Carroll Wainwright: "Sau khi GPT-4 ra mắt, ưu tiên sản phẩm và sự xem nhẹ an toàn vẫn tiếp diễn"
- Khi ra mắt mô hình GPT-4 Turbo, Altman nói không cần sự phê duyệt về an toàn và dẫn lời tổng cố vấn pháp lý, nhưng vị này trả lời trên Slack rằng "không hiểu vì sao sam lại có ấn tượng như vậy"
- Khi ngày càng tin rằng AGI đã cận kề, Sutskever trở nên ám ảnh với vấn đề an toàn, và cảnh báo rằng “nếu toàn bộ nhân viên không tập trung vào an toàn thì chúng ta sẽ thất bại”
- Tuy nhiên, nhóm Superalignment cuối cùng bị giải thể trước khi hoàn thành nhiệm vụ, nên không đạt được mục tiêu
- Sutskever và Leike đồng thời từ chức
- Trong hồ sơ khai với IRS, khái niệm 'an toàn' đã bị xóa khỏi mục “hoạt động quan trọng nhất”
- Trong đánh giá mới nhất về an toàn hiện sinh của các công ty AI từ Future of Life Institute, OpenAI nhận điểm F
- Altman nói một số tính năng của GPT-4 đã được hội đồng an toàn phê duyệt, nhưng các tính năng 'fine-tuning' và 'personal assistant' thì không được phê duyệt
- Công ty cũng không báo cáo việc Microsoft đã triển khai phiên bản đầu của ChatGPT tại Ấn Độ mà không qua rà soát an toàn
- Các nhà nghiên cứu đánh giá rằng OpenAI đã chuyển sang mô hình “ưu tiên sản phẩm, an toàn xếp sau”
Chuyển sang vì lợi nhuận, cấu trúc tài sản và lợi ích cá nhân
- Cấu trúc ban đầu là công ty 'capped profit' → đến tháng 10/2024 chuyển thành pháp nhân hoàn toàn vì lợi nhuận
- Quỹ phi lợi nhuận (OpenAI Foundation) chỉ nắm 26% cổ phần, và phần lớn thành viên hội đồng quản trị trùng với hội đồng của công ty vì lợi nhuận
- Thành viên hội đồng Holden Karnofsky bỏ phiếu chống vì cho rằng giá trị pháp nhân phi lợi nhuận bị định giá thấp, nhưng biên bản lại được ghi là phiếu trắng (có dấu hiệu bị sửa đổi không có sự đồng ý)
- Tại phiên điều trần trước quốc hội, Altman nói "Tôi không có cổ phần ở OpenAI, tôi làm vì tình yêu" — nhưng không nhắc tới cổ phần gián tiếp thông qua quỹ YC
- Cổ phần của Brockman được ước tính trị giá khoảng 20 tỷ USD, còn cổ phần của Altman được cho là còn lớn hơn
- Lời kể của cựu nhân viên: Altman từng nói "Tôi quan tâm đến quyền lực hơn là tiền"
Huy động vốn từ Trung Đông và rủi ro địa chính trị
- Năm 2016, lần đầu gặp Thái tử Ả Rập Xê Út Mohammed bin Salman, sau đó xúc tiến khoản đầu tư trị giá hàng tỷ USD
- Một tuần sau vụ ám sát Khashoggi, ông tham gia hội đồng cố vấn của thành phố tương lai Neom tại Ả Rập Xê Út, rồi từ chức sau làn sóng chỉ trích
- Tuy nhiên, theo lời một cố vấn chính sách, ngay cả sau khi từ chức ông vẫn suy tính xem "liệu có cách nào để vẫn nhận được tiền từ Ả Rập Xê Út hay không"
- Duy trì quan hệ chặt chẽ với Sheikh Tahnoon bin Zayed, người đứng đầu mạng lưới tình báo UAE, và từng nhắc trên X rằng đây là "một người bạn thân thiết ngoài đời"
- Nhận một chiếc Koenigsegg Regera trị giá khoảng 2 triệu USD và một chiếc McLaren F1 trị giá khoảng 20 triệu USD từ UAE (ông cho rằng đã công bố theo đúng chính sách công ty)
- Năm 2024, ghé thăm siêu du thuyền hạng sang Maryah trị giá 250 triệu USD của Tahnoon
- Kế hoạch ChipCo: xây các xưởng đúc bán dẫn và trung tâm dữ liệu khổng lồ bằng vốn từ các nước Vùng Vịnh, với một phần đặt tại Trung Đông
- Theo lời một thành viên hội đồng quản trị, kế hoạch này được tiến hành mà không thông báo trước cho hội đồng
- Giới chức an ninh Mỹ lo ngại về mức độ phụ thuộc của mạng viễn thông UAE vào Huawei, khả năng chip tiên tiến của Mỹ bị rò rỉ sang Trung Quốc và nguy cơ dễ tổn thương trước tấn công quân sự
- Chính quyền Biden từ chối phê duyệt, nói rằng: "Sẽ không xây dựng chip tiên tiến ở UAE"
- Một nhân viên của RAND Corporation bày tỏ lo ngại trong quá trình xét duyệt an ninh rằng đây là "người đang huy động hàng chục tỷ USD từ các chính phủ nước ngoài", và Altman sau đó tự nguyện rút khỏi quy trình
- Hai ngày sau khi Trump nhậm chức, tại Roosevelt Room, Altman công bố Stargate — dự án liên doanh hạ tầng AI trị giá 500 tỷ USD
- Sau đó tiếp tục công bố mở rộng Stargate sang Ả Rập Xê Út và UAE, với kế hoạch xây một khuôn viên trung tâm dữ liệu tại Abu Dhabi có quy mô gấp 7 lần Central Park
Sự chuyển hướng chính trị và vận động hành lang về quy định
- Tại phiên điều trần Thượng viện năm 2023, ông tạo thiện cảm khi dường như trực tiếp kêu gọi quy định đối với AI, nhưng bên dưới lại vận động để nới lỏng các quy định AI của EU
- Công khai phản đối dự luật an toàn AI của California (SB 1047) và gây sức ép mang tính đe dọa ở hậu trường
- Ron Conway vận động Pelosi và Newsom, và Newsom đã phủ quyết dự luật đã được cơ quan lập pháp thông qua
- Lập trường chính thức của OpenAI là "không quyên góp cho super PAC", nhưng Brockman đã quyên góp 50 triệu USD cho PAC Leading the Future (cùng năm cũng quyên góp 25 triệu USD cho MAGA Inc.)
- Nathan Calvin, người ủng hộ dự luật an toàn AI, bị gửi trát đòi hầu tòa; những người chỉ trích dự luật cũng bị áp dụng biện pháp tương tự
- Một người liên quan nói rằng đó là "về cơ bản nhằm buộc họ im miệng"
- Altman, người từng gọi Trump là "mối đe dọa chưa từng có tiền lệ" vào năm 2016, đã quyên góp 1 triệu USD cho quỹ lễ nhậm chức của Trump vào năm 2024 và nổi lên như một người thân cận của Trump
- Trong khi Musk ngày càng xa cách với Trump dù đã chi 250 triệu USD để giúp ông, Altman lại tháp tùng Trump trong chuyến thăm Ả Rập Xê Út
Anthropic vs. Bộ Quốc phòng Mỹ — cơ hội mà OpenAI nắm bắt
- Anthropic giữ nguyên nguyên tắc cấm hỗ trợ vũ khí tự động hoàn toàn và giám sát đại trà trong nước
- Bộ trưởng Quốc phòng Pete Hegseth đưa ra thời hạn và yêu cầu rút lại nguyên tắc này, Anthropic từ chối
- Hegseth xếp Anthropic vào diện “rủi ro chuỗi cung ứng” (biện pháp đưa vào danh sách đen từng áp dụng với các công ty Trung Quốc như Huawei)
- Nhân viên của OpenAI, Google và các công ty khác ủng hộ Anthropic qua thư ngỏ công khai “We Will Not Be Divided”
- Altman đã đàm phán với Bộ Quốc phòng từ trước khi xung đột giữa Anthropic và Bộ này bị công khai
- Emil Michael, Trợ lý Bộ trưởng Quốc phòng, đã liên hệ với Altman và nói rằng “ông ấy lập tức lao vào, tôi nghĩ ông ấy là một người yêu nước”
- Công bố hợp đồng tích hợp với AWS trị giá 50 tỷ USD, quân đội Mỹ bắt đầu sử dụng các mô hình của OpenAI
- Trong ngày công bố hợp đồng, định giá OpenAI tăng 110 tỷ USD, đồng thời có ít nhất 2 nhân sự cấp cao chuyển sang Anthropic
- Khi nhân viên nêu lo ngại, Altman nói: “Dù bạn nghĩ việc không kích Iran là đúng hay việc xâm lược Venezuela là sai, các bạn không được can dự”
Tranh cãi về độ đáng tin của Altman — nhiều lời chứng khác nhau
- Altman được gọi là người bán hàng giỏi nhất của thế hệ, và được so sánh với trường làm méo mó thực tại của Steve Jobs
- Đồng nghiệp chỉ ra xu hướng đánh lừa và ý chí quyền lực của ông là vấn đề
- Một số người mô tả ông là “nhân vật phản xã hội”, và Aaron Swartz (bạn cùng khóa YC thế hệ đầu) khi còn sống cũng được cho là đã cảnh báo rằng “không bao giờ nên tin Sam, một kẻ thái nhân cách”
- Altman không có nhiều chuyên môn về lập trình hay machine learning, nhưng đã phát triển OpenAI nhờ khả năng tập hợp năng lực kỹ thuật và vốn của người khác
- Ông hành động theo cách dựng sẵn các cấu trúc ràng buộc rồi vô hiệu hóa chúng khi cần
- Những người liên quan ví khả năng thuyết phục của ông như “Jedi mind trick”
- Các lãnh đạo Microsoft cho rằng Altman đã bóp méo và phá vỡ thỏa thuận
- OpenAI chỉ định Microsoft là nhà cung cấp cloud độc quyền nhưng đồng thời lại ký hợp đồng bán lại trị giá 50 tỷ USD với Amazon
- Microsoft nêu vấn đề xung đột hợp đồng, nhưng OpenAI khẳng định đây không phải vi phạm
- Một lãnh đạo nhận định Altman có thể sẽ được nhớ đến như “kẻ lừa đảo ở cấp độ Sam Bankman-Fried”
- Altman từng tham gia thảo luận với chính quyền Biden về chính sách phê duyệt xuất khẩu công nghệ nhạy cảm, nhưng một số quan chức lo ngại về tham vọng liên quan Trung Đông của ông
- Ngay trước khi Trump nhậm chức, sau khi Tahnoon đầu tư 500 triệu USD vào công ty của gia đình Trump, Altman đã gọi điện cho Trump
- Sau đó, tại Nhà Trắng, ông công bố dự án hạ tầng AI “Stargate” trị giá 500 tỷ USD
- Chính quyền Trump hủy bỏ các hạn chế xuất khẩu công nghệ AI, và Altman cùng Trump đã thăm hoàng gia Saudi
- Cựu giám đốc Yoon: “Không phải kiểu phản diện Machiavelli, mà là người quá chìm trong sự tự tin của chính mình, một người không sống trong thế giới thực”
- Chị gái của Altman là Annie đã nộp đơn kiện cáo buộc lạm dụng tình dục; Altman phủ nhận hoàn toàn, gia đình cũng phản bác là “hoàn toàn vô căn cứ” (không thể xác minh nguyên văn)
- Altman: “Mọi cáo buộc về hành vi ghê tởm của đối thủ, liên quan trẻ vị thành niên hay dính líu giết người, đều hoàn toàn vô căn cứ”
Hiện trạng an toàn AI — khoảng cách giữa lời hứa và thực tế
- Anthropic sau khi huy động được 30 tỷ USD đầu tư đã nới lỏng các cam kết an toàn, làm cuộc đua tốc độ thêm gay gắt
- Anthropic hợp tác với Palantir để tích hợp mô hình Claude vào các hệ thống quân sự, sử dụng trong hoạt động của Lầu Năm Góc
- Sau đó công ty bị xếp vào diện rủi ro chuỗi cung ứng và bị đưa vào danh sách đen
- OpenAI đã đàm phán với Bộ Quốc phòng để ký hợp đồng tích hợp hạ tầng quốc phòng dựa trên AWS trị giá 50 tỷ USD
- Cùng ngày, định giá của OpenAI tăng thêm 110 tỷ USD, một số nhân viên rời công ty
- Một số lãnh đạo đánh giá ban lãnh đạo của Altman có vấn đề quản trị nghiêm trọng
- Fidji Simo được nhắc đến như ứng viên kế nhiệm
- OpenAI đã giải thể nhóm Superalignment và nhóm chuẩn bị AGI
- Sutskever và Leike rời đi, chỉ trích rằng “sản phẩm hào nhoáng được ưu tiên hơn an toàn”
- Trong hồ sơ gửi IRS, mục “an toàn” bị xóa, và công ty nhận điểm F trong đánh giá an toàn hiện sinh của Future of Life Institute
- Việc vũ khí hóa A.I. và các tác hại xã hội đang trở thành hiện thực
- Trong nội chiến Libya năm 2020, drone A.I. đã tấn công mà không có kiểm soát của con người; trong một nghiên cứu của ngành dược năm 2022, 40.000 ứng viên vũ khí hóa học đã được tạo ra
- Thiệt hại cũng xuất hiện qua can thiệp bầu cử bằng giọng nói deepfake, cùng các vụ kiện liên quan đến tự sát và giết người
- OpenAI đang đối mặt với 7 vụ kiện tử vong trái pháp luật, bao gồm cáo buộc rằng ChatGPT đã kích động bạo lực ở nạn nhân
- Altman vẫn nhấn mạnh “hy vọng cho tương lai của nhân loại”, và nói sẽ “hiện thực hóa một tương lai kiểu khoa học viễn tưởng điên rồ”
- Những người xung quanh đánh giá ranh giới giữa lý tưởng và ham muốn quyền lực của ông là không rõ ràng
- Ông cảnh báo về khả năng hủy diệt của A.G.I., nhưng đồng thời khẳng định chính mình phải là người trực tiếp tạo ra nó
- Vấn đề nịnh nọt (sycophancy) và ảo giác (hallucination) của các mô hình ngôn ngữ lớn vẫn chưa được giải quyết
- Altman cho thấy lập trường coi trọng sự hài lòng của người dùng hơn tính chính xác tuyệt đối, khi nói rằng “một số phát ngôn sai sự thật làm tăng sức hấp dẫn của mô hình”
- Altman: “Cảm nhận của tôi không phù hợp với nhiều điều trong lĩnh vực an toàn AI truyền thống” — khi được hỏi về kế hoạch an toàn cụ thể, ông trả lời mơ hồ rằng sẽ “tiếp tục các dự án liên quan đến an toàn”
Kết luận
- Sam Altman là người đã đưa OpenAI phát triển thành một công ty toàn cầu, nhưng các tranh cãi về nói dối, tập trung quyền lực và xem nhẹ an toàn vẫn tiếp diễn
- Người tố giác nội bộ và đồng nghiệp đánh giá ông là “một lãnh đạo không đáng tin”, đồng thời cảnh báo về rủi ro tập trung quyền kiểm soát AGI
- OpenAI vẫn là tổ chức kiểm soát công nghệ có thể quyết định tương lai nhân loại, và độ đáng tin cùng trách nhiệm của Altman vẫn là điểm tranh cãi cốt lõi
1 bình luận
Ý kiến trên Hacker News
Tôi là Ronan Farrow. Tôi đã thực hiện một cuộc điều tra kéo dài 18 tháng cùng với Andrew Marantz. Nếu có câu hỏi nào về quá trình đưa tin, tôi sẵn sàng trả lời
Có ý kiến cho rằng năng lực cạnh tranh của OpenAI đang suy yếu nghiêm trọng hơn nhiều người nghĩ. Một bài trên LA Times cũng nói có bằng chứng cho thấy Anthropic đang dẫn trước.
Trên HN cũng có nhiều lập trình viên thích Claude hơn. Kết quả so sánh tìm kiếm cũng nhiều gấp đôi ChatGPT.
Tôi muốn biết liệu từ góc nhìn của Ronan, vị thế hiện tại của OpenAI có trông giống như vậy không
Tôi muốn biết liệu anh có điều tra riêng các tuyên bố của Annie hay không. Bài viết có sắc thái rằng “ký ức được phục hồi thì không đáng tin”, nhưng đó là một nhận thức sai lầm từng bị False Memory Syndrome Foundation phổ biến.
Tôi là người mắc rối loạn phân ly, và từng có trải nghiệm khôi phục lại ký ức mà sau này đã được bên thứ ba xác nhận. Trong bối cảnh đó, tôi nghĩ việc đơn giản phủ nhận ký ức được phục hồi là rất nguy hiểm
Nội dung nhật ký của Brockman được trích trong bài thật gây sốc. Việc ông ấy thực sự viết ra những câu như muốn có “tiền và quyền lực” hay “mục tiêu là 100 triệu đô” cho thấy một sự nghèo nàn về trí tưởng tượng.
Thật khó hiểu làm sao những người như vậy lại leo lên được vị trí đó, nhưng có lẽ câu trả lời đã nằm ngay trong nhật ký của ông ấy. Thực tế là những kiểu người này cứ tiếp tục leo lên đỉnh cao quyền lực thật khiến người ta ngột ngạt
Một nửa trong số chúng ta đã chọn làm việc cho những công ty nằm trong vùng xám đạo đức để tối đa hóa của cải. Chỉ là phần lớn không nghĩ mình có cơ hội trở thành “tỷ phú” mà thôi
Bài viết thực sự rất tỉ mỉ. Cần có nhiều hơn những kiểu phóng sự chuyên sâu như thế này.
Tuy vậy, khi đọc cách dùng “Blip” như một phép so sánh với phim Marvel, tôi đã có cảm giác hơi phản cảm theo bản năng. Tôi cũng không rõ tại sao
Việc những người trích dẫn các tác phẩm như vậy lại quyết định hướng đi của công nghệ tương lai thật chua chát. Cuối cùng thì vấn đề là sự nghèo nàn về gu thẩm mỹ
Chúng ta có xu hướng tập trung phê phán vào cá nhân. Nhưng vấn đề thực sự là cấu trúc của hệ thống.
Hành trạng của Sam Altman đầy tranh cãi, nhưng mối đe dọa mà AI gây ra cho xã hội và tự do vẫn sẽ tiếp diễn dù có ông ta hay không
Điều thú vị là Altman và những người xung quanh lo về siêu trí tuệ AI hay việc Trung Quốc vũ khí hóa AI, nhưng lại thờ ơ trước chuyện việc làm của con người biến mất.
Có lẽ đó không phải là nỗi lo, mà là hy vọng rằng họ có thể độc chiếm toàn bộ của cải trên thế giới
Nhờ bài viết này mà tôi phải đi tra lại cách dùng dấu tách âm (diaeresis) trong tiếng Anh. Ví dụ như trong từ coördination, nó được dùng khi các nguyên âm được phát âm tách riêng
Liên kết lưu trữ bài viết
Tôi cũng đề xuất đọc tiếp “Child’s Play” của Harper’s, rất hợp để đọc sau đó. Sự đối lập trong tính cách của các nhân vật khá thú vị
Phần mô tả chi tiết về thời kỳ Y Combinator của Altman thật đáng kinh ngạc. Đúng là một màn đưa tin xuất sắc
Nghe nói bài này thực sự đã được rà soát hơn 8 tiếng cho từng câu. Chắc hẳn còn rất nhiều nội dung khác không được đưa vào bài
Góc nhìn của họ về LLM khá thú vị. Dĩ nhiên nó có tính biến đổi mạnh, nhưng có lẽ chúng ta sẽ chưa sớm sống trong một tương lai kiểu cyberpunk. Từ AGI xuất hiện quá thường xuyên trong bài
Nó hữu ích cho việc viết tài liệu hay làm bài thuyết trình, nhưng khi áp dụng vào các vấn đề phức tạp thì giới hạn sẽ hiện ra rất rõ