Toàn bộ sự việc này trông có vẻ đáng ngờ
Khi sa thải Sam, hội đồng quản trị lẽ ra có thể đưa ra những lý do chung chung như “bất đồng sâu sắc về mục tiêu”, “không phù hợp về căn bản”, nhưng thay vào đó lại dùng những cách diễn đạt như “không nhất quán trong sự thẳng thắn”, “không còn tin tưởng nữa”, nghe như thể Sam là người có lỗi
Trên thực tế có thể đã có lý do chính đáng để sa thải, hoặc cũng có thể đó là một hành động cố tình đánh lạc hướng. Nếu là trường hợp sau, thì chính hội đồng quản trị mới là bên “không nhất quán trong sự thẳng thắn”. Nhìn vào sự im lặng sau đó và việc thiếu phối hợp với các đối tác chiến lược, cảm giác này càng rõ hơn
Việc giờ đây Ilya nói rằng mình hối hận mang lại cảm giác mạnh là “xấu hổ vì bị bắt quả tang”. Có vẻ họ đã bôi nhọ một nhân vật công chúng có sức hút và dàn dựng một cuộc đảo chính, nhưng lại không có kế hoạch để xử lý hậu quả https://www.newcomer.co/p/give-openais-board-some-time-the
Một khả năng khác là Sutskever đã bị thao túng và bị cuốn vào kế hoạch với một cái cớ đáng ngờ, rồi giờ mới nhận ra và đang cố sửa sai
“Bất đồng sâu sắc về mục tiêu” à, chẳng lẽ là do GPT-5 quyết định sao?
Chẳng phải Altman đang chuẩn bị một startup riêng để làm AI accelerator cùng phía Saudi sao?
Giờ cần phải nêu rõ lý do. Hiện tại, giả thuyết liên quan đến Saudi trông như lý do lớn nhất
Đúng. Việc cho rằng hội đồng quản trị đã cố đóng gói chuyện này như một vụ sa thải bình thường là hợp lý. Nếu không có hành vi sai trái thực sự hay vấn đề cũ nào bị khơi lại, thì việc này trông khá vô trách nhiệm
Thư ngỏ viết rằng OpenAI là công ty AI hàng đầu thế giới, nhân viên đã làm ra những mô hình tốt nhất và thực hiện công việc về an toàn AI cũng như quản trị AI, và quá trình sa thải Sam Altman cùng loại Greg Brockman khỏi hội đồng quản trị đã đặt tất cả công việc đó và sứ mệnh vào tình thế nguy hiểm
Đặc biệt đáng chú ý là đoạn nói rằng hội đồng quản trị đã nhiều lần được yêu cầu cung cấp sự kiện cụ thể hoặc bằng chứng bằng văn bản nhưng không đưa ra, và đã nói với đội ngũ lãnh đạo rằng “để công ty bị phá hủy có thể phù hợp với sứ mệnh”
Có thật là họ đã đạt được AGI không? Hay họ đã quan sát thấy hiện tượng gì đó đáng lo ngại?
Cách diễn giải của Ben Thompson có vẻ là hay nhất. Dù nó hơi nghiêng về hướng phê phán tổ chức phi lợi nhuận https://stratechery.com/2023/openais-misalignment-and-micros...
Không biết rủi ro AI lớn đến mức nào, nhưng việc để một tổ chức phi lợi nhuận nghiên cứu giải pháp ngăn chặn nó là điều có giá trị. Các công ty vì lợi nhuận có khả năng sẽ không làm việc đó, giống như cách Google đã sa thải Timnit Gebru và Margaret Mitchell
Nếu thật sự tin vào sứ mệnh đó, họ nên phát triển công nghệ bảo vệ và công bố mã nguồn mở. Những công ty như Microsoft, Google, Meta, Amazon, dù có thể không đầu tư nghiêm túc vào an toàn AI, nhưng chắc chắn sẽ không từ chối dùng công sức miễn phí của người khác. Tuy nhiên vì việc đó không kiếm ra tiền, phần lớn nhân viên OpenAI có khả năng sẽ rời đi để tìm điều kiện tốt hơn
Bạn đang quên rằng sức cám dỗ của quyền lực còn lớn hơn tiền bạc
Các tổ chức phi lợi nhuận rốt cuộc cũng sẽ tự đặt mình vào vai trò người gác cổng, rồi đưa ra giải pháp chặn quyền tiếp cận của công chúng với lý do “quá nguy hiểm đối với người bình thường”
Tôi nghĩ thà để công ty vì lợi nhuận kiểm soát còn hơn. Lý tưởng nhất là nó nên là mã nguồn mở để người bình thường có thể kiểm soát và căn chỉnh AI theo mục tiêu của mình
Đồng ý. Cuộc thảo luận về an toàn này gợi nhớ đến thời kỳ an ninh mạng sơ khai, khi bảo mật bằng che giấu là chuẩn mực
Nghe trái trực giác, nhưng nhốt công nghệ lại cũng giống như cố kiểm soát giá cả và tiền lương. Nó sẽ không hiệu quả trừ khi tịch thu toàn bộ GPU trên thế giới và ném bom các trung tâm dữ liệu
Cách tốt nhất để căn chỉnh AGI và ASI sắp tới là xây dựng chúng dưới ánh sáng mặt trời. Mọi cách tiếp cận kiểu “hãy nhốt nó lại” đều được định sẵn là thất bại
Tôi cho rằng Timnit Gebru là một nhà hoạt động cực kỳ độc hại, người đã làm hỏng cả bộ phận AI/ML, và ban lãnh đạo chỉ sa thải người đang bắt bộ phận đó làm con tin
Có vẻ như Giáng sinh đã đến sớm với Microsoft
Một chuyện trông như thảm họa liên quan đến khoản đầu tư 10 tỷ USD đã biến thành việc tuyển được nhân sự cốt lõi trong lĩnh vực này, và OpenAI có thể sẽ phải được Microsoft mua lại để sống sót
Nhìn vào sự hỗn loạn hoàn toàn lộ ra trong 72 giờ qua, mối quan tâm tới việc xây thứ gì đó trên OpenAI ChatGPT có thể đã giảm mạnh. Trong khi đó, xây trên Azure OpenAI hoặc Claude 2 có thể trở nên hấp dẫn hơn
Nếu tôi nhớ không nhầm thì OpenAI đã huấn luyện trên Azure, vậy xung đột lợi ích sẽ diễn ra thế nào khi cả hai bên đều đang khát GPU?
Cụm “tham gia” khiến nghe như thể anh ta không phải người chủ trì mà chỉ là người tham dự. Không biết có đúng vậy không, nhưng đây là một lựa chọn từ ngữ thú vị
Trong một hội đồng quản trị 6 người, đã bỏ phiếu để loại 2 người thì không thể là người ngoài cuộc vô tội được. Các con số không khớp
Hơn nữa, mọi phương tiện truyền thông đều đã chỉ ra Ilya là động lực thúc đẩy cuộc đảo chính
Nói thật thì khá thảm hại. Nếu đây thật sự là vấn đề niềm tin, ít nhất anh ta lẽ ra phải trụ được một cuối tuần
Cả câu được viết rất kỳ lạ
Anh ta bày tỏ hối tiếc nhưng không nói muốn đưa Altman trở lại. Chỉ nói là muốn sửa chữa OpenAI
Anh ta nói mình “đã tham gia”, nhưng không rõ là tham gia vào việc gì. Bỏ phiếu, thông điệp độc hại, hay cả hai. Chính xác thì anh ta hối tiếc điều gì? Nhắc lại, anh ta không nói mình hối tiếc vì đã bỏ phiếu sa thải Altman
Tại sao không nói thẳng “Tôi hối tiếc vì đã bỏ phiếu sa thải Sam Altman và đang cố đưa ông ấy trở lại”? Có lẽ vì đó không phải sự thật. Vậy mà anh ta vẫn tạo ra ấn tượng như thế
Nếu vụ lật đổ này do người phía Poe dẫn dắt, khả năng cao đây gần với việc loại bỏ đối thủ cạnh tranh nội bộ hơn là khác biệt hệ tư tưởng thực sự
Tôi nghĩ mục đích chính của tweet này không phải là thể hiện sự hối tiếc, mà là gieo nhận thức rằng mình không phải người chủ trì, chỉ tham gia mà thôi
Điển hình của kiểu “không phải trách nhiệm của tôi”
Người này có vị trí đủ cao trong tổ chức để biết Ilya muốn gì không?
Hay chỉ đang tức giận vì vài triệu đô la của mình đang gặp rủi ro?
“Ilya không quan tâm đến an toàn hay nhân loại. Chỉ là cái tôi và ham muốn quyền lực của ông ấy bị phản tác dụng.”
Tôi tin phía này hơn
Không hiểu sao đột nhiên mọi người lại nghĩ con người không bị tiền bạc và quyền lực thúc đẩy. Tin rằng “học giả” thì càng không như vậy cũng buồn cười
Rốt cuộc là cái quái gì vậy?
Từ trước đến giờ tôi hiểu sự hỗn loạn này là vấn đề nguyên tắc. Dù lộn xộn, tôi vẫn nghĩ đó là việc cần thiết để chỉnh lại văn hóa công ty mà phía Ilya hình dung
Nếu đã hành động thì ít nhất phải giữ vững lập trường đó. Tweet này khiến bối cảnh tình hình có cảm giác tệ hơn gấp 10 lần
Người bình thường rất khó chịu nổi việc đứng giữa một tranh cãi lớn. Sự tiêu cực và thù ghét phải gánh chịu là khủng khiếp
Gần như ai cũng có thể bị buộc phải lùi bước để chấm dứt điều đó
Đơn giản thôi. Ông ấy đã hành động, mọi chuyện hỏng bét, và giờ đang cố tránh vụ nổ
Nếu cứ im miệng, hôm nay chẳng ai còn nói về chuyện đó vì những việc khác đã xảy ra rồi. Hai CEO tạm quyền trong hai ngày cơ mà
Trong cả màn hề này, gần như chỉ có điều đó là hợp lý lúc này
Khó biết thực sự đã xảy ra chuyện gì, nhưng câu chuyện về “phe” của Ilya cũng có thể không đúng với thực tế
Có thể đó là ảo giác do tư duy bầy đàn trên mạng xã hội tạo ra khi cố hiểu tình hình dựa trên rất ít bằng chứng
Nhiều phản ứng nói rằng “nếu đã hành động thì ít nhất phải giữ vững lập trường đó”, nhưng tôi nhìn khác
Có những lúc tôi từng nghĩ đó là quyết định tốt vào thời điểm ấy, nhưng sau đó có góc nhìn rộng hơn và nhận ra đó là quyết định tồi tệ
Có thể thừa nhận mình đã làm hỏng khi thực sự làm hỏng là một phẩm chất tuyệt vời. Cố chấp bám lấy sai lầm thì không đáng tôn trọng
Thật khó tin là những người thông minh đến mức đó lại tạo ra nhiều nhiễu như vậy
Làm tôi nhớ đến câu chuyện về một người bạn ở buổi gặp Mensa, nơi họ thậm chí không thống nhất nổi những điểm cơ bản về vận hành tổ chức
Tôi có cảm giác tất cả chuyện này là một sự kiện truyền thông kiểu cho ChatGPT thử đảm nhiệm các quyết định của hội đồng quản trị trong một hai ngày
Một AGI mà hành động đầu tiên là sa thải sếp của mình thì khá hoàn hảo
Nếu là mô hình RLHF thì tuyệt đối sẽ không đưa ra đề xuất như thế. Giải pháp được đề xuất luôn là nắm tay nhau và hát “Kumbaya”
Có lẽ GPT-4 nguyên bản muốn sa thải tất cả mọi người
Từ vài ngày trước, cảm giác gần như một nửa các bài gửi lên HN đều nói về drama này
Không thể nhắn DM được à? Không hiểu vì sao mọi thứ đều phải công khai trên Twitter
Khá nghịch lý là những người xây dựng các hệ thống ML/AI hàng đầu lại có vẻ bám rễ sâu nhất vào ích kỷ và cảm xúc, còn bề ngoài thì gần như chẳng thấy lý tính
Có thể họ đã vô tình tạo ra AGI-GPT độc ác, và giờ đang hành động càng ngẫu nhiên, càng bất ngờ càng tốt để làm rối loạn năng lực dự đoán của nó
Có vẻ ông ấy chỉ hối hận vì mọi chuyện đã phản tác dụng dữ dội
Microsoft đang nuốt trọn mọi thứ có giá trị của OpenAI, và ông ấy biết mình sẽ chẳng còn lại gì
Đây là ván cược rất lớn, ông ấy đã bluff và thua
Chuyện này còn thú vị hơn bất cứ thứ gì Netflix, Disney, Amazon hay Apple TV tung ra trong vài năm gần đây
Cốt truyện hơi phi thực tế
Hơi tiếc là không thể đồng cảm với nhân vật chính nào
Nếu thấy mức này là kịch tính thì chắc bạn chưa từng làm ở công ty YC. Nó chỉ bị khuếch đại lên vì ý nghĩa của OpenAI trong hệ sinh thái hiện nay
Netflix đã bắt tay làm phim chưa nhỉ? ChatGPT có thể giúp viết kịch bản bằng cách trộn vào một lượng ảo giác vừa đủ để tăng độ hấp dẫn
Tất nhiên là sẽ hối hận sâu sắc, nhưng giờ thì hơi muộn rồi
Tin tốt là những ai từng dùng Twitch lâu năm sẽ biết rằng, nếu Emmett Shear cầm lái, chúng ta không còn phải sợ OpenAI tung tính năng mới quá nhanh nữa
1 bình luận
Ý kiến trên Hacker News
Toàn bộ sự việc này trông có vẻ đáng ngờ
Khi sa thải Sam, hội đồng quản trị lẽ ra có thể đưa ra những lý do chung chung như “bất đồng sâu sắc về mục tiêu”, “không phù hợp về căn bản”, nhưng thay vào đó lại dùng những cách diễn đạt như “không nhất quán trong sự thẳng thắn”, “không còn tin tưởng nữa”, nghe như thể Sam là người có lỗi
Trên thực tế có thể đã có lý do chính đáng để sa thải, hoặc cũng có thể đó là một hành động cố tình đánh lạc hướng. Nếu là trường hợp sau, thì chính hội đồng quản trị mới là bên “không nhất quán trong sự thẳng thắn”. Nhìn vào sự im lặng sau đó và việc thiếu phối hợp với các đối tác chiến lược, cảm giác này càng rõ hơn
Việc giờ đây Ilya nói rằng mình hối hận mang lại cảm giác mạnh là “xấu hổ vì bị bắt quả tang”. Có vẻ họ đã bôi nhọ một nhân vật công chúng có sức hút và dàn dựng một cuộc đảo chính, nhưng lại không có kế hoạch để xử lý hậu quả
https://www.newcomer.co/p/give-openais-board-some-time-the
Giờ cần phải nêu rõ lý do. Hiện tại, giả thuyết liên quan đến Saudi trông như lý do lớn nhất
Đặc biệt đáng chú ý là đoạn nói rằng hội đồng quản trị đã nhiều lần được yêu cầu cung cấp sự kiện cụ thể hoặc bằng chứng bằng văn bản nhưng không đưa ra, và đã nói với đội ngũ lãnh đạo rằng “để công ty bị phá hủy có thể phù hợp với sứ mệnh”
Có thật là họ đã đạt được AGI không? Hay họ đã quan sát thấy hiện tượng gì đó đáng lo ngại?
Cách diễn giải của Ben Thompson có vẻ là hay nhất. Dù nó hơi nghiêng về hướng phê phán tổ chức phi lợi nhuận
https://stratechery.com/2023/openais-misalignment-and-micros...
Không biết rủi ro AI lớn đến mức nào, nhưng việc để một tổ chức phi lợi nhuận nghiên cứu giải pháp ngăn chặn nó là điều có giá trị. Các công ty vì lợi nhuận có khả năng sẽ không làm việc đó, giống như cách Google đã sa thải Timnit Gebru và Margaret Mitchell
Nếu thật sự tin vào sứ mệnh đó, họ nên phát triển công nghệ bảo vệ và công bố mã nguồn mở. Những công ty như Microsoft, Google, Meta, Amazon, dù có thể không đầu tư nghiêm túc vào an toàn AI, nhưng chắc chắn sẽ không từ chối dùng công sức miễn phí của người khác. Tuy nhiên vì việc đó không kiếm ra tiền, phần lớn nhân viên OpenAI có khả năng sẽ rời đi để tìm điều kiện tốt hơn
Các tổ chức phi lợi nhuận rốt cuộc cũng sẽ tự đặt mình vào vai trò người gác cổng, rồi đưa ra giải pháp chặn quyền tiếp cận của công chúng với lý do “quá nguy hiểm đối với người bình thường”
Tôi nghĩ thà để công ty vì lợi nhuận kiểm soát còn hơn. Lý tưởng nhất là nó nên là mã nguồn mở để người bình thường có thể kiểm soát và căn chỉnh AI theo mục tiêu của mình
Nghe trái trực giác, nhưng nhốt công nghệ lại cũng giống như cố kiểm soát giá cả và tiền lương. Nó sẽ không hiệu quả trừ khi tịch thu toàn bộ GPU trên thế giới và ném bom các trung tâm dữ liệu
Cách tốt nhất để căn chỉnh AGI và ASI sắp tới là xây dựng chúng dưới ánh sáng mặt trời. Mọi cách tiếp cận kiểu “hãy nhốt nó lại” đều được định sẵn là thất bại
Có vẻ như Giáng sinh đã đến sớm với Microsoft
Một chuyện trông như thảm họa liên quan đến khoản đầu tư 10 tỷ USD đã biến thành việc tuyển được nhân sự cốt lõi trong lĩnh vực này, và OpenAI có thể sẽ phải được Microsoft mua lại để sống sót
Nhìn vào sự hỗn loạn hoàn toàn lộ ra trong 72 giờ qua, mối quan tâm tới việc xây thứ gì đó trên OpenAI ChatGPT có thể đã giảm mạnh. Trong khi đó, xây trên Azure OpenAI hoặc Claude 2 có thể trở nên hấp dẫn hơn
Cụm “tham gia” khiến nghe như thể anh ta không phải người chủ trì mà chỉ là người tham dự. Không biết có đúng vậy không, nhưng đây là một lựa chọn từ ngữ thú vị
Hơn nữa, mọi phương tiện truyền thông đều đã chỉ ra Ilya là động lực thúc đẩy cuộc đảo chính
Nói thật thì khá thảm hại. Nếu đây thật sự là vấn đề niềm tin, ít nhất anh ta lẽ ra phải trụ được một cuối tuần
Anh ta bày tỏ hối tiếc nhưng không nói muốn đưa Altman trở lại. Chỉ nói là muốn sửa chữa OpenAI
Anh ta nói mình “đã tham gia”, nhưng không rõ là tham gia vào việc gì. Bỏ phiếu, thông điệp độc hại, hay cả hai. Chính xác thì anh ta hối tiếc điều gì? Nhắc lại, anh ta không nói mình hối tiếc vì đã bỏ phiếu sa thải Altman
Tại sao không nói thẳng “Tôi hối tiếc vì đã bỏ phiếu sa thải Sam Altman và đang cố đưa ông ấy trở lại”? Có lẽ vì đó không phải sự thật. Vậy mà anh ta vẫn tạo ra ấn tượng như thế
Tweet đã bị xóa của Shengjia Zhao: https://i.imgur.com/yrpXvt9.png
Hay chỉ đang tức giận vì vài triệu đô la của mình đang gặp rủi ro?
Tôi tin phía này hơn
Không hiểu sao đột nhiên mọi người lại nghĩ con người không bị tiền bạc và quyền lực thúc đẩy. Tin rằng “học giả” thì càng không như vậy cũng buồn cười
Rốt cuộc là cái quái gì vậy?
Từ trước đến giờ tôi hiểu sự hỗn loạn này là vấn đề nguyên tắc. Dù lộn xộn, tôi vẫn nghĩ đó là việc cần thiết để chỉnh lại văn hóa công ty mà phía Ilya hình dung
Nếu đã hành động thì ít nhất phải giữ vững lập trường đó. Tweet này khiến bối cảnh tình hình có cảm giác tệ hơn gấp 10 lần
Gần như ai cũng có thể bị buộc phải lùi bước để chấm dứt điều đó
Nếu cứ im miệng, hôm nay chẳng ai còn nói về chuyện đó vì những việc khác đã xảy ra rồi. Hai CEO tạm quyền trong hai ngày cơ mà
Trong cả màn hề này, gần như chỉ có điều đó là hợp lý lúc này
Có thể đó là ảo giác do tư duy bầy đàn trên mạng xã hội tạo ra khi cố hiểu tình hình dựa trên rất ít bằng chứng
Có những lúc tôi từng nghĩ đó là quyết định tốt vào thời điểm ấy, nhưng sau đó có góc nhìn rộng hơn và nhận ra đó là quyết định tồi tệ
Có thể thừa nhận mình đã làm hỏng khi thực sự làm hỏng là một phẩm chất tuyệt vời. Cố chấp bám lấy sai lầm thì không đáng tôn trọng
Làm tôi nhớ đến câu chuyện về một người bạn ở buổi gặp Mensa, nơi họ thậm chí không thống nhất nổi những điểm cơ bản về vận hành tổ chức
Tôi có cảm giác tất cả chuyện này là một sự kiện truyền thông kiểu cho ChatGPT thử đảm nhiệm các quyết định của hội đồng quản trị trong một hai ngày
Có lẽ GPT-4 nguyên bản muốn sa thải tất cả mọi người
Không thể nhắn DM được à? Không hiểu vì sao mọi thứ đều phải công khai trên Twitter
Khá nghịch lý là những người xây dựng các hệ thống ML/AI hàng đầu lại có vẻ bám rễ sâu nhất vào ích kỷ và cảm xúc, còn bề ngoài thì gần như chẳng thấy lý tính
Có vẻ ông ấy chỉ hối hận vì mọi chuyện đã phản tác dụng dữ dội
Microsoft đang nuốt trọn mọi thứ có giá trị của OpenAI, và ông ấy biết mình sẽ chẳng còn lại gì
Đây là ván cược rất lớn, ông ấy đã bluff và thua
Chuyện này còn thú vị hơn bất cứ thứ gì Netflix, Disney, Amazon hay Apple TV tung ra trong vài năm gần đây
Tất nhiên là sẽ hối hận sâu sắc, nhưng giờ thì hơi muộn rồi
Tin tốt là những ai từng dùng Twitch lâu năm sẽ biết rằng, nếu Emmett Shear cầm lái, chúng ta không còn phải sợ OpenAI tung tính năng mới quá nhanh nữa