Tất cả bình luận: chuỗi thảo luận này có hơn 1800 bình luận; nếu muốn đọc hết, bạn có thể nhấn 'More' ở cuối mỗi trang hoặc dùng liên kết được cung cấp.
Nếu OpenAI vẫn là một tổ chức phi lợi nhuận, thì thành viên hội đồng quản trị từ Microsoft sẽ có nghĩa vụ pháp lý phải thúc đẩy sứ mệnh từ thiện của tổ chức, chứ không phải nhu cầu kinh doanh của Microsoft, điều này có thể tạo ra xung đột lợi ích rõ ràng. Có thể IRS sẽ không thích cấu trúc như vậy.
Việc Sam Altman quay lại vị trí CEO có thể là bằng chứng cho thấy hội đồng quản trị OpenAI đã mất khả năng thực thi chức năng của mình. Hội đồng không còn có thể thực thi quyền sa thải Sam, và giờ Sam có thể hành động theo cách mình muốn. Không hẳn là đang chỉ trích hay hiểu sai hành vi của Sam, nhưng vẫn có lo ngại rằng ông ấy có thể nói dối hoặc hành xử không phù hợp.
Câu chuyện này gợi nhớ đến vụ Coca-Cola và New Coke, khi cuối cùng Coke nguyên bản lại trở nên được ưa chuộng hơn. Người tiêu dùng đã mạnh mẽ đòi lấy lại hương vị quen thuộc, và một số nhà báo còn suy đoán rằng tất cả chỉ là một chiến lược quảng bá.
Trong cuộc đối đầu giữa một nhà phát triển và một doanh nhân, doanh nhân đã thắng; và khi hàng trăm nhà phát triển dọa nghỉ việc khiến hội đồng phải nhượng bộ, điều đó cho thấy các nhà phát triển thực sự có quyền lực.
Ilya đã rời hội đồng quản trị nhưng Adam vẫn còn ở lại. Điều này có thể khiến một số người nhíu mày, nhưng việc Sam trở lại sẽ dẫn đến những thay đổi lớn tại OpenAI, và về lâu dài khó có thể nghĩ OpenAI sẽ trở thành một tập đoàn khổng lồ kiểu Facebook hay Uber. Có cảm nhận rằng niềm tin đã bị tổn hại.
Đã có xung đột giữa nhóm Rapid Commercialization và nhóm kiên định với nguyên tắc, và điều này đã xuất hiện trong các bài viết từ trước cả GPT-3. Chỉ một thiểu số công chúng quan tâm đến an toàn AI, còn phần lớn chỉ hài lòng vì ChatGPT giúp làm bài tập. Có thể chế giễu sự thiếu hiểu biết của hội đồng, nhưng nếu ai đó thực sự nghiêm túc với mối đe dọa của siêu trí tuệ, thì cũng cần cố gắng hiểu hành động của họ.
Cá nhân tôi không xem mối đe dọa với an toàn AI là điều quá nghiêm trọng, nhưng vẫn cần nỗ lực để thấu hiểu. Hy vọng sẽ không có ngày Helen Toner phải nói: "Đó chính là điều mà chúng tôi đã cố ngăn chặn".
Từng có hy vọng vào cách tiếp cận an toàn AI từ khu vực tư nhân, nhưng giờ điều đó có vẻ bất khả thi; và với tốc độ đầu tư chậm chạp của nhà nước vào R&D AI công, mọi cách tiếp cận an toàn AI đều có vẻ không khả thi. Nghiên cứu an toàn trên các mô hình đồ chơi vẫn sẽ tiếp tục tiến bộ, nhưng ngành này cho rằng khả năng học hỏi về an toàn sẽ có giới hạn nếu không nghiên cứu trên các mô hình tiên tiến nhất.
Altman từng lập luận rằng cấu trúc quản trị của OpenAI là cơ chế bảo đảm ưu tiên an toàn, nhưng các báo cáo nội bộ về việc nghiên cứu an toàn bị điều chuyển sang duy trì vận hành ChatGPT đã làm dấy lên lo ngại. Khi rõ ràng rằng hội đồng, dù về mặt kỹ thuật có thể làm vậy, lại không đủ quyền lực để quản lý xung đột lợi ích, thì vẫn chưa rõ liệu bất kỳ tổ chức nào ưu tiên an toàn, kể cả Anthropic, có thể tránh được ảnh hưởng của chủ nghĩa tăng tốc từ các bên cấp vốn hay không.
Paul Graham nói: "Hãy quay lại sau 5 năm, Sam sẽ là vua của hòn đảo đó."
Có một cách kể chuyện phổ biến rằng các VC/Microsoft đã lật đổ cấu trúc quản trị của một tổ chức phi lợi nhuận vì động cơ lợi nhuận, nhưng tôi không nghĩ thực tế là như vậy. Lý do quyết định này xảy ra là vì 95% nhân viên đứng về phía Sam trong vấn đề này, còn hội đồng thì hoàn toàn không giải thích lập trường của mình. Sam, 95% nhân viên và toàn bộ nhà đầu tư đều phản đối hội đồng, nên hội đồng phải thua trong việc này. Vì hội đồng đã cai trị chỉ vì chính họ. Cuối cùng, đây là một kết quả công bằng và tốt; tôi vẫn cho rằng cấu trúc quản trị để giải quyết vấn đề AGI là phù hợp, nhưng hội đồng lần này thì cực kỳ không phù hợp.
1 bình luận
Ý kiến trên Hacker News