Nếu OpenAI tiếp tục là một tổ chức từ thiện 501(c)(3), thì một nhân viên Microsoft tham gia hội đồng quản trị sẽ có nghĩa vụ ủy thác đặt sứ mệnh của tổ chức từ thiện lên trước nhu cầu kinh doanh của Microsoft. Xung đột lợi ích quá rõ ràng nên có lẽ IRS sẽ không thích cấu trúc này
Trong hội đồng quản trị của các tập đoàn lớn, xung đột lợi ích “trên giấy tờ” là chuyện phổ biến. Nếu muốn những người có kinh nghiệm điều hành thực tế ngồi trong hội đồng và hành xử có trách nhiệm, chuyện này xảy ra ở mọi ngành, không phải vấn đề đặc thù của ngành công nghệ hay riêng OpenAI
Trên thực tế, mọi thứ vận hành bằng cách tuân theo quy chế hội đồng quản trị và lẽ thường: né tránh khi cần và không làm những việc ngu ngốc
Có lẽ chưa từng có tổ chức phi lợi nhuận nào bị soi xét lớn như hiện nay, và các thành viên hội đồng mới có thể sẽ kéo luật sư vào để tự bảo vệ mình. Hãy thử tưởng tượng lập trường của họ khi Sam Altman thực sự làm điều gì đó đáng bị sa thải
Việc biến OpenAI thành tổ chức từ thiện công ích là một sai lầm lớn, và bước vào mớ hỗn loạn như vậy khiến người ta e ngại. Nếu sau này nghiêng sang quy chế quỹ tư nhân thì còn thú vị hơn
OpenAI không phải là tổ chức từ thiện. Khoản đầu tư của Microsoft được rót vào OpenAI Global, LLC, một công ty vì lợi nhuận
Theo https://openai.com/our-structure, công ty con vì lợi nhuận này do OpenAI Nonprofit kiểm soát hoàn toàn, và các thành viên hội đồng quản trị phải thực hiện nghĩa vụ ủy thác vì sứ mệnh “AGI an toàn mang lại lợi ích rộng rãi”. Phần chia lợi nhuận cho nhà đầu tư, nhân viên và Microsoft đều có trần, và giá trị còn lại vượt quá trần sẽ quay về tổ chức phi lợi nhuận vì lợi ích của nhân loại. Ngoài ra, việc đã đạt AGI hay chưa do hội đồng quản trị quyết định, và AGI bị loại khỏi giấy phép sở hữu trí tuệ cũng như các điều khoản thương mại của Microsoft
Không có dấu hiệu nào cho thấy giám đốc do Microsoft đề cử nhất thiết phải là nhân viên Microsoft. Tất nhiên cũng có thể là vậy, nhưng trong các tổ chức phi lợi nhuận lớn, việc có thành viên hội đồng đến từ doanh nghiệp vì lợi nhuận là khá phổ biến
Tôi không nghĩ IRS sẽ quá bận tâm chuyện này. Nếu lập luận là OpenAI đang dồn lợi ích cho Microsoft, một công ty vì lợi nhuận có đóng thuế, thì ngay cả khi giả định sự can thiệp ác ý tệ nhất, việc này có vẻ giống vấn đề của SEC hơn là IRS
Có lẽ chính phủ sẽ không quản lý mạnh tay chuyện này. AI quá quan trọng với chính phủ và quân đội, nên họ sẽ không muốn làm chậm lợi thế cạnh tranh chỉ vì một xung đột lợi ích nhỏ
Khi Sam trở lại làm CEO, có vẻ hội đồng quản trị OpenAI đã chứng minh rằng họ mất chức năng. Dù ai ngồi trong hội đồng, họ cũng không còn thực thi được quyền cơ bản nhất là sa thải CEO, và Sam đã cho thấy mình trên thực tế là người không thể bị sa thải
Nói vậy không có nghĩa là tôi khẳng định Sam đã nói dối hay sẽ nói dối trong tương lai
Hoàn toàn không phải vậy. Chỉ là hội đồng quản trị đã hành động theo cách kém cỏi nhất trong số những nhóm chịu trách nhiệm
Nếu họ làm đúng quy trình, thông báo cho nhân viên và nhà đầu tư, công bố lý do sa thải CEO, thì sẽ không có chuyện xử lý bằng một cuộc Google Meet 15 phút rồi im lặng hoàn toàn, và cũng sẽ không có cơn phẫn nộ như thế này
Hãy tưởng tượng hội đồng quản trị Apple đột ngột sa thải Tim Cook ngay sau khi ông lên sân khấu công bố các cập nhật nền tảng cho nhà phát triển trong năm đó cùng mức tăng trưởng và doanh số kỷ lục, rồi suốt nhiều ngày từ chối đưa ra lý do hay bất kỳ trao đổi hữu ích nào với nhà đầu tư, và ngay trong cuối tuần đó lại thay CEO tạm quyền đầu tiên bằng một CEO tạm quyền khác đến từ ngành hoàn toàn khác
Nếu nghĩ rằng sẽ không có cuộc nổi dậy của cổ đông chống lại hội đồng chỉ vì họ thực thi quyền cơ bản là sa thải CEO, thì bạn đang bỏ sót một phần bức tranh
Chuyện này là một thỏa thuận tốt hơn cho hội đồng quản trị và tệ hơn cho Sam so với nhiều người nghĩ. Sam, Greg và Ilya đều rời khỏi hội đồng, D'Angelo vẫn ở lại dù đã có hành động lố bịch, đồng thời có quyền phủ quyết và tiếng nói lớn trong việc bổ nhiệm các thành viên mới
Từ nay mọi người sẽ cảnh giác với Sam. Ông ấy có ít đòn bẩy hơn nhiều so với hội đồng trước đây. Cuối cùng ông ấy có thể thắng bằng sức hút và năng lực xã hội để thuyết phục các thành viên độc lập khác, nhưng để họ đứng về phía mình thay vì phía D'Angelo, ông ấy sẽ phải kiểm soát hành vi của mình rất nhiều
Đúng, nhưng ngược lại, vụ này cũng cho thấy OpenAI không còn vận hành trơn tru nữa, và có lẽ sẽ khó có thể như trước. Không thể chặt đầu con rắn rồi gắn lại và kỳ vọng nó bò tiếp như xưa
Ngay cả khi Sam ở lại, trong một tổ chức phức tạp như OpenAI có hàng nghìn quy tắc ngầm, mối quan hệ và quy trình ẩn cần vận hành tốt mà CEO không cần trực tiếp can thiệp. Việc tái tuyển dụng Sam dường như có nghĩa OpenAI trong tương lai chỉ còn là cái bóng mờ của chính mình trước đây. Nếu ông ấy thực sự ổn định trở lại thì sẽ thấy kỳ lạ, nhất là khi nghĩ đến những người khác đã rời đi. Điều đó không có nghĩa OpenAI sẽ chết, nhưng rõ ràng họ đã để lộ điểm yếu
Hội đồng quản trị vẫn có thể sa thải Sam nếu trước hết thuyết phục được các bên liên quan cốt lõi. Việc sa thải một người đang làm tốt mà không đưa ra bất kỳ lý do chính đáng nào là điều vô lý, và có vẻ đó mới là vấn đề cốt lõi
Rốt cuộc, ai cũng biết cấu trúc phi lợi nhuận này chỉ để trưng bày và sẽ không vận hành hiệu quả
Không hiểu sao tôi lại nhớ đến vụ bê bối Coke/New Coke. Kết quả là sự kiện đó đã khiến Coke Classic còn nổi tiếng hơn trước
Người tiêu dùng tức giận đòi trả lại hương vị mà họ đã biết và lớn lên cùng, và yêu cầu khôi phục sản phẩm cũ lớn đến mức các phóng viên còn cho rằng toàn bộ dự án có phải được dàn dựng hay không. Trước việc đó, chủ tịch Coca-Cola Don Keough đã trả lời vào ngày 10 tháng 7 năm 1985: “Chúng tôi không ngu đến thế, và cũng không thông minh đến thế.” https://en.wikipedia.org/wiki/New_Coke
Tôi từng uống thử New Coke khi nó được tái phát hành vì Stranger Things, và thấy nó ngon hơn Coca Cola Classic nhiều. Tiếc là nó thất bại
Tôi đoán màn dàn dựng đó có lẽ là để che giấu việc chuyển từ đường sang xi-rô ngô hàm lượng fructose cao
Ilya đã rời khỏi hội đồng quản trị, còn Adam thì vẫn ở lại. Đó là chuyện đáng nhướng mày, nhưng dù sao thì sự thật là vậy
Việc Sam quay lại không có nghĩa chuyện này sẽ cứ thế biến mất. Một khi Sam đã trông như người không thể thay thế, OAI sẽ trải qua những thay đổi lớn. Về dài hạn, tôi nghi ngờ việc OAI có trở thành một trong những tập đoàn khổng lồ như Facebook hay Uber hay không; họ đã đánh mất niềm tin
Không hẳn là anh ấy không thể thay thế, mà đúng hơn là nếu đột ngột đuổi anh ấy đi mà chẳng có lý do rõ ràng thì sẽ phát sinh vấn đề
Lịch sử đã nhiều lần cho thấy sản phẩm tốt quan trọng hơn niềm tin rất nhiều, và Facebook cùng Uber là bằng chứng. Ngay sau bê bối, ai cũng lớn tiếng nói rằng họ đã mất niềm tin, nhưng đến lúc thì họ vẫn lặng lẽ gia hạn hợp đồng
Các công ty quảng cáo lớn như Google, Amazon, Facebook gần như tháng nào cũng có bê bối nhưng doanh thu quảng cáo vẫn tiếp tục chảy vào. Meltdown là một bê bối lớn, nhưng Intel vẫn tiếp tục sản xuất chip
Facebook đã đánh mất niềm tin nhiều đến mức không đếm xuể, nhưng chẳng phải họ vẫn là một Megacorp sao?
Sam Altman là một CEO sáng lập cực kỳ có sức hút, bị một số người xem là thao túng, nhưng được nhiều nhân viên yêu mến. Anh ấy bị hội đồng quản trị đuổi đi rồi quay lại khi hội đồng nhận ra sai lầm
Điều này không hoàn toàn khớp với câu chuyện lập nghiệp của các công ty thành công khổng lồ như Facebook, Amazon, Microsoft, Google, nhưng tôi vẫn nghĩ một người như vậy có khả năng xây dựng một công ty khổng lồ. Tất nhiên, điều quan trọng hơn việc tạo ra một công ty khổng lồ là tạo ra một sản phẩm xuất sắc đến điên rồ
Rốt cuộc chúng ta vẫn chưa biết chính xác chuyện gì đã xảy ra, và có lẽ sau này cũng sẽ không biết. Tuy nhiên, có vẻ rõ ràng là đã có rạn nứt giữa Team Sam, phe thiên về thương mại hóa nhanh, và Team Helen/Ilya, phe muốn giữ các nguyên tắc ban đầu
Ngay cả trong một bài viết trước GPT-3 cũng đã nói rằng các lý tưởng sáng lập về minh bạch, cởi mở và hợp tác đang bị bào mòn bởi cạnh tranh khốc liệt và áp lực vốn lớn hơn. Team Helen đã hành động trong trạng thái hoảng loạn, nhưng có lẽ họ nghĩ mình sẽ thắng vì tin rằng họ đang bảo vệ các nguyên tắc sáng lập của tổ chức. Nhưng ngay từ đầu họ đã không có cơ hội thắng. Trong công chúng, chỉ có số ít người thực sự quan tâm đến AI Safety, còn phần còn lại thì thích ChatGPT giúp làm bài tập. Việc hội đồng quản trị hành xử ngu ngốc đến mức phi lý đáng bị chế giễu, nhưng cũng cần nghĩ đến phía ngược lại: nếu họ thật sự tin rằng AI siêu nhân loại đã ở gần và có thể hành xử ác ý, chẳng phải họ sẽ cố làm chậm lại sao?
Thành thật mà nói, khó mà xem mối đe dọa đó là nghiêm túc, nhưng tôi lại muốn hiểu nó sâu hơn trước. Có lẽ nó không vô căn cứ như tôi từng nghĩ. Tôi hy vọng sẽ không có ngày Team Helen phải nói: “Đây chính là thứ chúng tôi đã cố ngăn chặn.” https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Ở đây công chúng nghĩ gì không quan trọng. Yếu tố quyết định là cuộc nổi loạn của nhân viên, và không có nhân viên thì tổ chức chỉ là cái vỏ rỗng
Các nhân viên đã đứng về phía muốn tạo tác động nhanh trong thế giới thực, điều này cũng ảnh hưởng trực tiếp đến sự nghiệp và quyền chọn cổ phiếu của họ. Xem đây là cuộc đấu về nguyên tắc cũng là ngây thơ. Khẩu hiệu thương mại hóa nhanh đối đầu với nguyên tắc là thứ mỗi phe đưa ra để tập hợp người ủng hộ; trên thực tế nhiều khả năng đây là một màn thâu tóm quyền lực trắng trợn, tận dụng cấu trúc tổ chức yếu và hỗn loạn. Cách “đúng” để loại Altman là dần dần trói quyền lực của anh ấy trong hội đồng quản trị, đẩy anh ấy vào vai trò ngày càng mang tính nghi lễ hơn, để anh ấy tự nghỉ
Nếu OpenAI đang tiến gần đến điểm kỳ dị, thì Google, Meta, Baidu, v.v. cũng vậy. Nếu thế thì nên kéo NSA hoặc Nhà Trắng vào, và bắt đầu các biện pháp giảm thiểu với cả Google, Meta, Microsoft
Chỉ làm chậm OpenAI thì có hại cho công ty nếu giả định sai, và cũng chẳng giúp gì nếu giả định đúng. Chuyện này trông giống cuộc đấu về cái tôi và quyền lực hơn là cuộc đấu về nguyên tắc và định hướng
Câu chuyện này nghe hợp lý, nhưng không giải thích được những câu chữ kỳ quặc và hung hăng trong thông cáo báo chí ban đầu
Nếu hội đồng quản trị viện dẫn các nguyên tắc sáng lập hoặc điều lệ, nói rằng họ và Sam có khác biệt quan điểm không thể thu hẹp về cách diễn giải, đồng thời bày tỏ lòng biết ơn sâu sắc với những đóng góp của anh ấy, thì tình hình có thể đã khác. Tất nhiên, việc có một CEO kế nhiệm phù hợp và bảo đảm PPU của nhân viên sẽ được thanh khoản hóa còn quan trọng hơn nhiều. Ban đầu bản tuyên bố tệ đến mức tôi tưởng Sam đã phạm tội gì đó
Thật mỉa mai khi một tổ chức nói về tiến bộ có trách nhiệm lại không thể căn chỉnh cấu trúc khuyến khích ngay trong chính tổ chức của mình; điều đó đáng bị chế giễu. Đây là một đòn giáng lớn vào uy tín, và khiến cả những mối quan ngại đạo đức mà họ nêu ra cũng bị nghi ngờ
Nếu bạn nghĩ mối đe dọa là thật, chẳng phải mọi thứ đã hỏng rồi sao? OpenAI chỉ là một trong nhiều đội đang nghiên cứu vấn đề này, và tất cả đều được hậu thuẫn bởi nguồn vốn và nhân tài khổng lồ của các công ty đại chúng lớn
Đúng là OpenAI đã có đóng góp độc đáo, nhưng họ cũng không dẫn trước áp đảo. Nếu OpenAI chao đảo, nhiều khả năng nơi khác sẽ dẫn đầu, và cũng không ai biết đột phá lớn tiếp theo sẽ đến từ đâu. Nếu thật sự xem mối đe dọa là thật, tôi không hiểu vì sao lại giả định OpenAI là bên dẫn đầu tuyệt đối. Làm công ty chậm lại thì kết quả có khả năng nhất là nhường vị trí dẫn đầu cho nơi khác
Có thể nhìn cục diện như thế này. Trong cuộc đối đầu giữa một nhà phát triển là Ilya và một doanh nhân là Sam, Sam thắng. Khi hàng trăm nhà phát triển đe dọa nghỉ việc và hội đồng quản trị vẫn cố bám trụ, các nhà phát triển thắng
Nhìn từ bên ngoài, có vẻ các nhà phát triển đã nắm quyền lực ngay từ đầu, và đúng ra nên như vậy
Việc 95% trong một công ty cùng đứng về một phía là chuyện chưa từng có, nhưng có vài lý do
Họ có thể nhận được vị trí và đãi ngộ tương tự ở startup mới của Microsoft nên công việc của họ không gặp rủi ro; Sam vốn đã phê duyệt từng lượt tuyển dụng; và OpenAI đã tuyển những người muốn làm việc ở một tổ chức phi lợi nhuận có mục tiêu hơn là ở các công ty khác có thể trả lương cao hơn. Dù sao, việc họ đoàn kết tuyên bố sẽ cùng nghỉ việc là một chiến lược tốt và đã hiệu quả. “OpenAI is nothing without its people” là một cơ chế kiểm soát quyền lực đối với một hội đồng quản trị tệ
Có ba con rồng: nhân viên, khách hàng, chính phủ. Nếu có động cơ và được căn chỉnh, bất kỳ con nào trong ba con rồng này cũng có thể kết thúc một công ty nếu muốn
Đừng đánh thức rồng
Gần đúng hơn là tiền đã thắng. Rõ ràng phần lớn nhân viên không thật sự quan tâm nhiều đến sứ mệnh của OpenAI. Tôi không trách họ, vì họ được tuyển vào công ty OpenAI vì lợi nhuận và được trả thưởng bằng cổ phần theo mục tiêu đó
Theo tôi, hội đồng quản trị đã đúng khi cố bảo vệ sứ mệnh ban đầu của OpenAI. Dù giờ sứ mệnh đó chẳng còn ý nghĩa gì nữa. Lập luận rằng Google, Meta, Microsoft kiểu gì cũng sẽ phát triển nó là một lý lẽ tiện lợi. Trong cuộc chạy đua vũ khí hạt nhân cũng từng có kiểu “nếu chúng ta không làm thì người khác sẽ làm”, và kết quả là tình trạng ngày nay
Có chắc Ilya là gốc rễ của chuyện này không? Ban đầu ông ấy ủng hộ, nhưng sau đó cũng tham gia ký tên đe dọa sẽ nghỉ việc nếu không đảo ngược quyết định
Tôi tò mò bằng chứng nào cho thấy người đứng sau là Ilya chứ không phải D'Angelo
Sự đoàn kết của các lập trình viên có vẻ mạnh hơn cả bản thân công ty. Đó là lý do các lãnh đạo Big Tech ghét công đoàn đến vậy
Từng có kỳ vọng vào cách tiếp cận an toàn AI do ngành tư nhân dẫn dắt, nhưng giờ có vẻ khó, và vì đầu tư của nhà nước cho R&D AI công còn chậm, mọi cách tiếp cận an toàn AI đều có vẻ bất định
Nghiên cứu an toàn trên các mô hình đồ chơi sẽ tiếp tục tiến bộ, nhưng dự đoán của ngành dường như là do các thuộc tính nổi lên, nếu không nghiên cứu các mô hình tiên tiến nhất thì trần hiểu biết về an toàn sẽ thấp. Altman từng quảng bá rằng cấu trúc quản trị của OpenAI là cơ chế buộc an toàn được ưu tiên, nhưng các báo cáo rằng nhân sự an toàn bị điều sang xử lý tải cho ChatGPT là đáng lo. Giờ hội đồng quản trị đã cho thấy về mặt kỹ thuật họ có thể làm được, nhưng không đủ mạnh để kiểm soát những lợi ích này; và vẫn chưa rõ các tổ chức định hướng an toàn, kể cả Anthropic, có thể thoát khỏi ảnh hưởng mang tính tăng tốc của các nhà tài trợ như thế nào
Không có thứ gọi là thuộc tính nổi lên, chỉ là lượng tri thức có thể tìm kiếm tăng tuyến tính mà thôi
Nó không biết lập kế hoạch, không biết làm số học, không biết suy luận. Nó có thể tìm kiếm tri thức một cách tương đối bằng truy vấn ngôn ngữ tự nhiên, phần này khá tốt, và có thể mã hóa dữ liệu bằng ngôn ngữ tự nhiên cùng các dạng thức khác. Bản thân điều này không làm tôi lo, nhưng tôi lo việc mọi người hiểu sai nghiêm trọng những gì mô hình này có thể làm rồi đem dùng cho các việc quan trọng
Nếu dành nhiều nỗ lực hơn cho thương mại hóa giai đoạn đầu, như tiếp tục vận hành ChatGPT ổn định, thì ngược lại có thể sẽ ít nỗ lực hơn cho phát triển năng lực tuyến đầu. Altman vốn không phải người về an toàn AI, nên cá nhân tôi hy vọng Anthropic sẽ tránh được vấn đề này nhờ lãnh đạo tốt hơn
Chỉ cần không bất tài và không lạm dụng quyền lực vì lợi ích cá nhân là được. Mọi người không ngu như người ta tưởng, họ sẽ nhìn thấu những lời nhảm nhí đó, và sẽ nghỉ việc thay vì đi theo một bạo chúa ngu ngốc
Tôi muốn biết thế nào là một mô hình không phải “mô hình đồ chơi”
Thật sự tôi không nghĩ chuyện như thế này sẽ xảy ra. Câu hỏi tiếp theo đương nhiên là Ilya sẽ ra sao. Theo thông báo lần này thì có vẻ ông ấy đã rời hội đồng quản trị, nhưng ông ấy vẫn là nhà khoa học trưởng chứ? Khó tin là ông ấy và Sam có thể hàn gắn quan hệ để làm việc gần gũi như vậy
Việc Adam vẫn ở lại hội đồng quản trị cũng thú vị, và có vẻ phản bác nhiều giả thuyết lan truyền ở đây rằng ông ấy là người chủ mưu vì xung đột lợi ích
Từ phía Ilya thì có vẻ không có gì thay đổi lớn. Một tháng trước Sam đã gạt ông ấy sang bên vì bất đồng kéo dài về việc nên thúc đẩy thương mại hóa nhanh đến mức nào
Nếu Ilya vẫn bị gạt ra rìa thì có lẽ ông ấy sẽ nghỉ, và công ty nào trao cho ông ấy nhiều quyền kiểm soát nhất sẽ đưa ông ấy về. Nếu bị sa thải cũng vậy. Nếu như một phần của thỏa thuận là đưa ông ấy trở lại vị trí trung tâm thì có lẽ ông ấy sẽ tiếp tục làm nhà khoa học trưởng. Hy vọng giờ sự thù địch của Sam sẽ giảm đi phần nào
Lạ là tôi nghĩ Ilya bước ra khỏi vụ này khá ổn. Ông ấy quyết định theo các giá trị của mình và theo điều ông ấy tin là tốt nhất cho an toàn AI, rồi khi thấy kết quả, ông ấy đổi ý và chịu trách nhiệm
Hẳn ông ấy biết mình sẽ bị Internet chế giễu vì quay xe, nhưng vẫn hành động theo hướng ông ấy nghĩ là tốt nhất cho những nhân viên đã ký tên. Hành động của ông ấy có thể bị phê phán, nhưng tôi nghĩ nó cho thấy phẩm chất đạo đức. Các thành viên hội đồng quản trị khác có vẻ quyết định vì những lý do cá nhân hơn, và cũng khớp với xung đột lợi ích của Adam. Thành thật mà nói, trong 4 người thì người duy nhất tôi muốn giữ lại trong hội đồng quản trị là Ilya. Ở vị trí lãnh đạo cần người có thể đổi hướng khi có thông tin mới
Có thể nhìn lạc quan hơn một chút. Hai người họ biết nhau khá rõ, và cũng biết cách cùng nhau làm nên việc lớn. Đôi khi chuyện nổ ra hoặc ai đó có thể mắc sai lầm, và một lời xin lỗi chân thành, đơn giản có thể đi khá xa
Sam sẽ không gặp vấn đề gì trong việc hàn gắn quan hệ vì ông ấy hiểu các mối quan hệ kinh doanh vận hành ra sao. Hơn nữa, như thể hiện trên tweet, Ilya đã hôn nhẫn rồi
Hội đồng quản trị mới có vẻ gồm Adam D'Angelo thân hội đồng, Brett Taylor thân Sam, còn Larry Summers gần như trung lập. Brett đã thúc đẩy việc Sam trở lại từ Chủ nhật, nên có thể đoán Sam và ban lãnh đạo OpenAI thích ông ấy. Larry chưa từng làm trong lĩnh vực AI, nhưng nói chung là một cái tên được kính trọng, và hai bên hẳn đã phỏng vấn rộng rãi và kiểm tra danh tiếng trước khi thỏa hiệp
Sẽ rất thú vị xem hội đồng quản trị thay đổi thế nào trong tương lai. Đại khái đã có hai phe. Phe cho rằng Sam đi quá nhanh đã bãi nhiệm ông ấy, còn phe cho rằng quỹ đạo của Sam là ổn thì có Sam và Greg. Giờ hội đồng quản trị đã có thế cân bằng, và các bổ nhiệm sau này có thể khiến cán cân nghiêng về một bên. Đáng tiếc là một hội đồng bị chia rẽ khó tồn tại lâu và cuối cùng có khả năng một bên sẽ thắng. Tôi nghĩ phía Sam cuối cùng sẽ thắng, nhưng phải chờ xem
Một trong những kết quả đáng buồn nhất của vở kịch lần này là Greg bị đẩy ra khỏi OpenAI. Greg không chỉ là người xuất sắc mà còn đều đặn dành 80–90 giờ mỗi tuần cho OpenAI, có thể nói đã cống hiến một phần đáng kể đời mình để xây dựng tổ chức này. Nếu một người như vậy phải rời đi bởi một hội đồng quản trị hầu như không đóng góp gì cho việc xây dựng OpenAI, chứ đừng nói làm việc 90 giờ mỗi tuần, thì đó là một sự xúc phạm. Ilya là ngoại lệ, và việc ông ấy đảo ngược lập trường khi thấy hành động của mình đang giết chết OpenAI cũng đáng chú ý
Lựa chọn đáng sợ ở đây là Larry Summers. Quan điểm bãi bỏ quy định ngân hàng của ông ấy đã dẫn tới khủng hoảng tài chính toàn cầu, và ông ấy cũng vướng nhiều tranh cãi vì các lập trường phân biệt chủng tộc, phân biệt giới tính. Hơn nữa, ông ấy là bạn lâu năm của Epstein và đã nhiều lần tới đảo của Epstein
Greg chỉ phải rời khỏi ghế hội đồng quản trị, chứ không phải rời công ty
1 bình luận
Các ý kiến trên Hacker News
Chủ đề này có hơn 1.800 bình luận. Nếu muốn đọc hết, bạn có thể bấm More ở cuối mỗi trang hoặc mở trực tiếp các trang như bên dưới
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
Nếu OpenAI tiếp tục là một tổ chức từ thiện 501(c)(3), thì một nhân viên Microsoft tham gia hội đồng quản trị sẽ có nghĩa vụ ủy thác đặt sứ mệnh của tổ chức từ thiện lên trước nhu cầu kinh doanh của Microsoft. Xung đột lợi ích quá rõ ràng nên có lẽ IRS sẽ không thích cấu trúc này
Trên thực tế, mọi thứ vận hành bằng cách tuân theo quy chế hội đồng quản trị và lẽ thường: né tránh khi cần và không làm những việc ngu ngốc
Việc biến OpenAI thành tổ chức từ thiện công ích là một sai lầm lớn, và bước vào mớ hỗn loạn như vậy khiến người ta e ngại. Nếu sau này nghiêng sang quy chế quỹ tư nhân thì còn thú vị hơn
Theo https://openai.com/our-structure, công ty con vì lợi nhuận này do OpenAI Nonprofit kiểm soát hoàn toàn, và các thành viên hội đồng quản trị phải thực hiện nghĩa vụ ủy thác vì sứ mệnh “AGI an toàn mang lại lợi ích rộng rãi”. Phần chia lợi nhuận cho nhà đầu tư, nhân viên và Microsoft đều có trần, và giá trị còn lại vượt quá trần sẽ quay về tổ chức phi lợi nhuận vì lợi ích của nhân loại. Ngoài ra, việc đã đạt AGI hay chưa do hội đồng quản trị quyết định, và AGI bị loại khỏi giấy phép sở hữu trí tuệ cũng như các điều khoản thương mại của Microsoft
Tôi không nghĩ IRS sẽ quá bận tâm chuyện này. Nếu lập luận là OpenAI đang dồn lợi ích cho Microsoft, một công ty vì lợi nhuận có đóng thuế, thì ngay cả khi giả định sự can thiệp ác ý tệ nhất, việc này có vẻ giống vấn đề của SEC hơn là IRS
Khi Sam trở lại làm CEO, có vẻ hội đồng quản trị OpenAI đã chứng minh rằng họ mất chức năng. Dù ai ngồi trong hội đồng, họ cũng không còn thực thi được quyền cơ bản nhất là sa thải CEO, và Sam đã cho thấy mình trên thực tế là người không thể bị sa thải
Nói vậy không có nghĩa là tôi khẳng định Sam đã nói dối hay sẽ nói dối trong tương lai
Nếu họ làm đúng quy trình, thông báo cho nhân viên và nhà đầu tư, công bố lý do sa thải CEO, thì sẽ không có chuyện xử lý bằng một cuộc Google Meet 15 phút rồi im lặng hoàn toàn, và cũng sẽ không có cơn phẫn nộ như thế này
Nếu nghĩ rằng sẽ không có cuộc nổi dậy của cổ đông chống lại hội đồng chỉ vì họ thực thi quyền cơ bản là sa thải CEO, thì bạn đang bỏ sót một phần bức tranh
Từ nay mọi người sẽ cảnh giác với Sam. Ông ấy có ít đòn bẩy hơn nhiều so với hội đồng trước đây. Cuối cùng ông ấy có thể thắng bằng sức hút và năng lực xã hội để thuyết phục các thành viên độc lập khác, nhưng để họ đứng về phía mình thay vì phía D'Angelo, ông ấy sẽ phải kiểm soát hành vi của mình rất nhiều
Ngay cả khi Sam ở lại, trong một tổ chức phức tạp như OpenAI có hàng nghìn quy tắc ngầm, mối quan hệ và quy trình ẩn cần vận hành tốt mà CEO không cần trực tiếp can thiệp. Việc tái tuyển dụng Sam dường như có nghĩa OpenAI trong tương lai chỉ còn là cái bóng mờ của chính mình trước đây. Nếu ông ấy thực sự ổn định trở lại thì sẽ thấy kỳ lạ, nhất là khi nghĩ đến những người khác đã rời đi. Điều đó không có nghĩa OpenAI sẽ chết, nhưng rõ ràng họ đã để lộ điểm yếu
Rốt cuộc, ai cũng biết cấu trúc phi lợi nhuận này chỉ để trưng bày và sẽ không vận hành hiệu quả
Không hiểu sao tôi lại nhớ đến vụ bê bối Coke/New Coke. Kết quả là sự kiện đó đã khiến Coke Classic còn nổi tiếng hơn trước
Người tiêu dùng tức giận đòi trả lại hương vị mà họ đã biết và lớn lên cùng, và yêu cầu khôi phục sản phẩm cũ lớn đến mức các phóng viên còn cho rằng toàn bộ dự án có phải được dàn dựng hay không. Trước việc đó, chủ tịch Coca-Cola Don Keough đã trả lời vào ngày 10 tháng 7 năm 1985: “Chúng tôi không ngu đến thế, và cũng không thông minh đến thế.”
https://en.wikipedia.org/wiki/New_Coke
Tôi từng uống thử New Coke khi nó được tái phát hành vì Stranger Things, và thấy nó ngon hơn Coca Cola Classic nhiều. Tiếc là nó thất bại
Ilya đã rời khỏi hội đồng quản trị, còn Adam thì vẫn ở lại. Đó là chuyện đáng nhướng mày, nhưng dù sao thì sự thật là vậy
Việc Sam quay lại không có nghĩa chuyện này sẽ cứ thế biến mất. Một khi Sam đã trông như người không thể thay thế, OAI sẽ trải qua những thay đổi lớn. Về dài hạn, tôi nghi ngờ việc OAI có trở thành một trong những tập đoàn khổng lồ như Facebook hay Uber hay không; họ đã đánh mất niềm tin
Các công ty quảng cáo lớn như Google, Amazon, Facebook gần như tháng nào cũng có bê bối nhưng doanh thu quảng cáo vẫn tiếp tục chảy vào. Meltdown là một bê bối lớn, nhưng Intel vẫn tiếp tục sản xuất chip
Điều này không hoàn toàn khớp với câu chuyện lập nghiệp của các công ty thành công khổng lồ như Facebook, Amazon, Microsoft, Google, nhưng tôi vẫn nghĩ một người như vậy có khả năng xây dựng một công ty khổng lồ. Tất nhiên, điều quan trọng hơn việc tạo ra một công ty khổng lồ là tạo ra một sản phẩm xuất sắc đến điên rồ
Rốt cuộc chúng ta vẫn chưa biết chính xác chuyện gì đã xảy ra, và có lẽ sau này cũng sẽ không biết. Tuy nhiên, có vẻ rõ ràng là đã có rạn nứt giữa Team Sam, phe thiên về thương mại hóa nhanh, và Team Helen/Ilya, phe muốn giữ các nguyên tắc ban đầu
Ngay cả trong một bài viết trước GPT-3 cũng đã nói rằng các lý tưởng sáng lập về minh bạch, cởi mở và hợp tác đang bị bào mòn bởi cạnh tranh khốc liệt và áp lực vốn lớn hơn. Team Helen đã hành động trong trạng thái hoảng loạn, nhưng có lẽ họ nghĩ mình sẽ thắng vì tin rằng họ đang bảo vệ các nguyên tắc sáng lập của tổ chức. Nhưng ngay từ đầu họ đã không có cơ hội thắng. Trong công chúng, chỉ có số ít người thực sự quan tâm đến AI Safety, còn phần còn lại thì thích ChatGPT giúp làm bài tập. Việc hội đồng quản trị hành xử ngu ngốc đến mức phi lý đáng bị chế giễu, nhưng cũng cần nghĩ đến phía ngược lại: nếu họ thật sự tin rằng AI siêu nhân loại đã ở gần và có thể hành xử ác ý, chẳng phải họ sẽ cố làm chậm lại sao?
Thành thật mà nói, khó mà xem mối đe dọa đó là nghiêm túc, nhưng tôi lại muốn hiểu nó sâu hơn trước. Có lẽ nó không vô căn cứ như tôi từng nghĩ. Tôi hy vọng sẽ không có ngày Team Helen phải nói: “Đây chính là thứ chúng tôi đã cố ngăn chặn.”
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Các nhân viên đã đứng về phía muốn tạo tác động nhanh trong thế giới thực, điều này cũng ảnh hưởng trực tiếp đến sự nghiệp và quyền chọn cổ phiếu của họ. Xem đây là cuộc đấu về nguyên tắc cũng là ngây thơ. Khẩu hiệu thương mại hóa nhanh đối đầu với nguyên tắc là thứ mỗi phe đưa ra để tập hợp người ủng hộ; trên thực tế nhiều khả năng đây là một màn thâu tóm quyền lực trắng trợn, tận dụng cấu trúc tổ chức yếu và hỗn loạn. Cách “đúng” để loại Altman là dần dần trói quyền lực của anh ấy trong hội đồng quản trị, đẩy anh ấy vào vai trò ngày càng mang tính nghi lễ hơn, để anh ấy tự nghỉ
Chỉ làm chậm OpenAI thì có hại cho công ty nếu giả định sai, và cũng chẳng giúp gì nếu giả định đúng. Chuyện này trông giống cuộc đấu về cái tôi và quyền lực hơn là cuộc đấu về nguyên tắc và định hướng
Nếu hội đồng quản trị viện dẫn các nguyên tắc sáng lập hoặc điều lệ, nói rằng họ và Sam có khác biệt quan điểm không thể thu hẹp về cách diễn giải, đồng thời bày tỏ lòng biết ơn sâu sắc với những đóng góp của anh ấy, thì tình hình có thể đã khác. Tất nhiên, việc có một CEO kế nhiệm phù hợp và bảo đảm PPU của nhân viên sẽ được thanh khoản hóa còn quan trọng hơn nhiều. Ban đầu bản tuyên bố tệ đến mức tôi tưởng Sam đã phạm tội gì đó
Đúng là OpenAI đã có đóng góp độc đáo, nhưng họ cũng không dẫn trước áp đảo. Nếu OpenAI chao đảo, nhiều khả năng nơi khác sẽ dẫn đầu, và cũng không ai biết đột phá lớn tiếp theo sẽ đến từ đâu. Nếu thật sự xem mối đe dọa là thật, tôi không hiểu vì sao lại giả định OpenAI là bên dẫn đầu tuyệt đối. Làm công ty chậm lại thì kết quả có khả năng nhất là nhường vị trí dẫn đầu cho nơi khác
Có thể nhìn cục diện như thế này. Trong cuộc đối đầu giữa một nhà phát triển là Ilya và một doanh nhân là Sam, Sam thắng. Khi hàng trăm nhà phát triển đe dọa nghỉ việc và hội đồng quản trị vẫn cố bám trụ, các nhà phát triển thắng
Nhìn từ bên ngoài, có vẻ các nhà phát triển đã nắm quyền lực ngay từ đầu, và đúng ra nên như vậy
Họ có thể nhận được vị trí và đãi ngộ tương tự ở startup mới của Microsoft nên công việc của họ không gặp rủi ro; Sam vốn đã phê duyệt từng lượt tuyển dụng; và OpenAI đã tuyển những người muốn làm việc ở một tổ chức phi lợi nhuận có mục tiêu hơn là ở các công ty khác có thể trả lương cao hơn. Dù sao, việc họ đoàn kết tuyên bố sẽ cùng nghỉ việc là một chiến lược tốt và đã hiệu quả. “OpenAI is nothing without its people” là một cơ chế kiểm soát quyền lực đối với một hội đồng quản trị tệ
Đừng đánh thức rồng
Gần đúng hơn là tiền đã thắng. Rõ ràng phần lớn nhân viên không thật sự quan tâm nhiều đến sứ mệnh của OpenAI. Tôi không trách họ, vì họ được tuyển vào công ty OpenAI vì lợi nhuận và được trả thưởng bằng cổ phần theo mục tiêu đó
Theo tôi, hội đồng quản trị đã đúng khi cố bảo vệ sứ mệnh ban đầu của OpenAI. Dù giờ sứ mệnh đó chẳng còn ý nghĩa gì nữa. Lập luận rằng Google, Meta, Microsoft kiểu gì cũng sẽ phát triển nó là một lý lẽ tiện lợi. Trong cuộc chạy đua vũ khí hạt nhân cũng từng có kiểu “nếu chúng ta không làm thì người khác sẽ làm”, và kết quả là tình trạng ngày nay
Tôi tò mò bằng chứng nào cho thấy người đứng sau là Ilya chứ không phải D'Angelo
Từng có kỳ vọng vào cách tiếp cận an toàn AI do ngành tư nhân dẫn dắt, nhưng giờ có vẻ khó, và vì đầu tư của nhà nước cho R&D AI công còn chậm, mọi cách tiếp cận an toàn AI đều có vẻ bất định
Nghiên cứu an toàn trên các mô hình đồ chơi sẽ tiếp tục tiến bộ, nhưng dự đoán của ngành dường như là do các thuộc tính nổi lên, nếu không nghiên cứu các mô hình tiên tiến nhất thì trần hiểu biết về an toàn sẽ thấp. Altman từng quảng bá rằng cấu trúc quản trị của OpenAI là cơ chế buộc an toàn được ưu tiên, nhưng các báo cáo rằng nhân sự an toàn bị điều sang xử lý tải cho ChatGPT là đáng lo. Giờ hội đồng quản trị đã cho thấy về mặt kỹ thuật họ có thể làm được, nhưng không đủ mạnh để kiểm soát những lợi ích này; và vẫn chưa rõ các tổ chức định hướng an toàn, kể cả Anthropic, có thể thoát khỏi ảnh hưởng mang tính tăng tốc của các nhà tài trợ như thế nào
Nó không biết lập kế hoạch, không biết làm số học, không biết suy luận. Nó có thể tìm kiếm tri thức một cách tương đối bằng truy vấn ngôn ngữ tự nhiên, phần này khá tốt, và có thể mã hóa dữ liệu bằng ngôn ngữ tự nhiên cùng các dạng thức khác. Bản thân điều này không làm tôi lo, nhưng tôi lo việc mọi người hiểu sai nghiêm trọng những gì mô hình này có thể làm rồi đem dùng cho các việc quan trọng
Thật sự tôi không nghĩ chuyện như thế này sẽ xảy ra. Câu hỏi tiếp theo đương nhiên là Ilya sẽ ra sao. Theo thông báo lần này thì có vẻ ông ấy đã rời hội đồng quản trị, nhưng ông ấy vẫn là nhà khoa học trưởng chứ? Khó tin là ông ấy và Sam có thể hàn gắn quan hệ để làm việc gần gũi như vậy
Việc Adam vẫn ở lại hội đồng quản trị cũng thú vị, và có vẻ phản bác nhiều giả thuyết lan truyền ở đây rằng ông ấy là người chủ mưu vì xung đột lợi ích
Nếu Ilya vẫn bị gạt ra rìa thì có lẽ ông ấy sẽ nghỉ, và công ty nào trao cho ông ấy nhiều quyền kiểm soát nhất sẽ đưa ông ấy về. Nếu bị sa thải cũng vậy. Nếu như một phần của thỏa thuận là đưa ông ấy trở lại vị trí trung tâm thì có lẽ ông ấy sẽ tiếp tục làm nhà khoa học trưởng. Hy vọng giờ sự thù địch của Sam sẽ giảm đi phần nào
Hẳn ông ấy biết mình sẽ bị Internet chế giễu vì quay xe, nhưng vẫn hành động theo hướng ông ấy nghĩ là tốt nhất cho những nhân viên đã ký tên. Hành động của ông ấy có thể bị phê phán, nhưng tôi nghĩ nó cho thấy phẩm chất đạo đức. Các thành viên hội đồng quản trị khác có vẻ quyết định vì những lý do cá nhân hơn, và cũng khớp với xung đột lợi ích của Adam. Thành thật mà nói, trong 4 người thì người duy nhất tôi muốn giữ lại trong hội đồng quản trị là Ilya. Ở vị trí lãnh đạo cần người có thể đổi hướng khi có thông tin mới
Hội đồng quản trị mới có vẻ gồm Adam D'Angelo thân hội đồng, Brett Taylor thân Sam, còn Larry Summers gần như trung lập. Brett đã thúc đẩy việc Sam trở lại từ Chủ nhật, nên có thể đoán Sam và ban lãnh đạo OpenAI thích ông ấy. Larry chưa từng làm trong lĩnh vực AI, nhưng nói chung là một cái tên được kính trọng, và hai bên hẳn đã phỏng vấn rộng rãi và kiểm tra danh tiếng trước khi thỏa hiệp
Sẽ rất thú vị xem hội đồng quản trị thay đổi thế nào trong tương lai. Đại khái đã có hai phe. Phe cho rằng Sam đi quá nhanh đã bãi nhiệm ông ấy, còn phe cho rằng quỹ đạo của Sam là ổn thì có Sam và Greg. Giờ hội đồng quản trị đã có thế cân bằng, và các bổ nhiệm sau này có thể khiến cán cân nghiêng về một bên. Đáng tiếc là một hội đồng bị chia rẽ khó tồn tại lâu và cuối cùng có khả năng một bên sẽ thắng. Tôi nghĩ phía Sam cuối cùng sẽ thắng, nhưng phải chờ xem
Một trong những kết quả đáng buồn nhất của vở kịch lần này là Greg bị đẩy ra khỏi OpenAI. Greg không chỉ là người xuất sắc mà còn đều đặn dành 80–90 giờ mỗi tuần cho OpenAI, có thể nói đã cống hiến một phần đáng kể đời mình để xây dựng tổ chức này. Nếu một người như vậy phải rời đi bởi một hội đồng quản trị hầu như không đóng góp gì cho việc xây dựng OpenAI, chứ đừng nói làm việc 90 giờ mỗi tuần, thì đó là một sự xúc phạm. Ilya là ngoại lệ, và việc ông ấy đảo ngược lập trường khi thấy hành động của mình đang giết chết OpenAI cũng đáng chú ý