Những người rời OpenAI: Vì sao cựu nhân viên không thể lên tiếng

• ChatGPT có thể lên tiếng, nhưng nhân viên OpenAI thì không
  • Họ đã ký các thỏa thuận cấm chỉ trích, và nếu vi phạm hợp đồng thì sẽ phải từ bỏ cổ phần

OpenAI ra mắt ChatGPT 4o mới

• OpenAI đã ra mắt ChatGPT 4o mới
• Nó có giọng nói tương tự trợ lý AI do Scarlett Johansson lồng tiếng trong bộ phim "Her" năm 2013 của đạo diễn Spike Jonze
• CEO của OpenAI là Sam Altman đã đăng tweet nhắc đến bộ phim này

Các nhân sự chủ chốt của OpenAI từ chức

• Tin ra mắt ChatGPT 4o đã làm lu mờ thông tin về việc đồng sáng lập kiêm nhà khoa học trưởng của OpenAI là Ilya Sutskever và Jan Leike, người dẫn dắt nhóm superalignment, từ chức
• Jan Leike, người từng có tên trong danh sách Future Perfect 50 năm ngoái, cũng rời đi
• Việc từ chức không hẳn là điều quá bất ngờ
  • Sutskever có liên quan đến cuộc nổi loạn của hội đồng quản trị dẫn đến việc CEO Sam Altman bị sa thải tạm thời vào năm ngoái
  • Sau khi Altman nhanh chóng quay lại vị trí CEO, Sutskever công khai bày tỏ hối tiếc về hành động của mình và ủng hộ sự trở lại của Altman
  • Nhưng kể từ đó, khi các thành viên khác trong các nhóm chính sách, alignment và an toàn của OpenAI rời đi, Sutskever phần lớn vắng mặt tại công ty

Suy đoán về sự im lặng của các cựu nhân viên

• Sự im lặng của các cựu nhân viên đã làm dấy lên nhiều suy đoán
• Sutskever để lại một thông điệp từ chức rất thông thường
  • "Tôi tin rằng OpenAI sẽ xây dựng AGI an toàn và có ích. Tôi mong chờ chặng đường phía trước"
• Leike chỉ đơn giản nói rằng mình "đã từ chức"
  • Vài ngày sau, ông giải thích rằng mình rời đi vì lo ngại OpenAI đang rời xa văn hóa lấy an toàn làm trọng tâm
• Có nhiều suy đoán về lý do các cựu nhân viên giữ im lặng
  • Chẳng hạn họ có bị buộc phải ra đi hay không, đây có phải dư chấn từ vụ Altman bị sa thải ngắn hạn vào mùa thu năm ngoái hay không, hay họ từ chức để phản đối một dự án mới bí mật và nguy hiểm

Lý do sự im lặng của cựu nhân viên

• Có một lý do rất rõ ràng khiến các cựu nhân viên im lặng
  • Các thỏa thuận thôi việc cực kỳ hạn chế có điều khoản cấm chỉ trích nhà tuyển dụng cũ suốt đời
  • Ngay cả việc thừa nhận sự tồn tại của NDA cũng bị xem là vi phạm
• Nếu nhân viên nghỉ việc không ký tài liệu hoặc vi phạm, họ có thể mất toàn bộ phần vốn sở hữu đã nhận trong thời gian làm việc tại công ty
  • Số đó rất có thể trị giá hàng triệu USD
• Một cựu nhân viên tên Daniel Kokotajlo đã công khai xác nhận rằng anh rời đi mà không ký NDA và chấp nhận từ bỏ lượng cổ phần rất lớn đi kèm
  • Anh nói rằng đó là "vì tôi đã mất niềm tin rằng OpenAI sẽ hành động có trách nhiệm trong kỷ nguyên AGI"

Thông lệ NDA ở Silicon Valley cạnh tranh khốc liệt

• Bản thân NDA không phải điều gì lạ trong Silicon Valley cạnh tranh khốc liệt
• Nhưng việc tước bỏ hoặc đặt phần cổ phần đã nhận vào tình thế rủi ro nếu từ chối ký hay vi phạm thì là điều bất thường
  • Với nhân viên ở các startup như OpenAI, cổ phần là khoản đãi ngộ quan trọng, lớn hơn nhiều so với lương
  • Đe dọa khoản tiền có thể thay đổi cả cuộc đời này là một cách cực kỳ hiệu quả để buộc các cựu nhân viên im lặng

Mâu thuẫn về tính công khai và minh bạch của OpenAI

• Ban đầu OpenAI tự quảng bá là cam kết xây dựng các hệ thống mạnh mẽ một cách minh bạch và có trách nhiệm
  • Nhưng giờ đây họ đã từ bỏ ý tưởng phát hành mô hình dưới dạng mã nguồn mở với lý do an toàn
• Họ đã để những thành viên giàu kinh nghiệm và được kính trọng nhất trong nhóm an toàn rời đi
  • Điều này làm dấy lên nghi ngờ liệu an toàn có thực sự là lý do khiến OpenAI trở nên khép kín hơn hay không
• Người phát ngôn của OpenAI nói rằng "chúng tôi chưa từng hủy cổ phần của bất kỳ nhân viên hiện tại hay cựu nhân viên nào, và cũng sẽ không làm vậy kể cả khi họ không ký lúc nghỉ việc"
  • Điều này được cho là cho thấy một sự thay đổi so với chính sách từng được hiểu trước đó

Vị thế đặc biệt của OpenAI trong giới công nghệ và chính sách

• OpenAI từ lâu đã giữ một vị thế đặc biệt trong giới công nghệ và chính sách
  • Những sản phẩm họ ra mắt, từ DALL-E đến ChatGPT, đều rất ấn tượng nhưng tự thân chúng khó tạo ra sự cuồng nhiệt gần như mang tính tôn giáo
• Điều khiến OpenAI trở nên đặc biệt là mục tiêu lớn lao phát triển trí tuệ nhân tạo tổng quát (AGI) để mang lại lợi ích cho nhân loại
  • Nhiều nhân viên tin rằng chỉ cần khoảng 10 năm nữa (hoặc ít hơn) và hàng nghìn tỷ USD là có thể đạt được mục tiêu này
• Như chính OpenAI đã nói từ lâu, điều này vừa thú vị vừa có thể nguy hiểm

OpenAI như một tác nhân có trách nhiệm

• Về mặt lịch sử, OpenAI luôn tự định vị là một tác nhân có trách nhiệm, vượt lên trên động cơ thương mại để đưa AGI đến với mọi người vì lợi ích chung
  • Họ nói rằng mình sẵn sàng làm vậy ngay cả khi phải giảm tốc độ phát triển, bỏ lỡ cơ hội doanh thu hoặc chấp nhận sự giám sát từ bên ngoài
• Cấu trúc doanh nghiệp độc đáo của OpenAI (một công ty lợi nhuận giới hạn do tổ chức phi lợi nhuận kiểm soát cuối cùng) được thiết kế để tăng trách nhiệm giải trình
• Không có tín hiệu nào mạnh mẽ hơn về cam kết của OpenAI với sứ mệnh đó bằng việc những người như Sutskever và Leike đảm nhiệm các vai trò nổi bật
  • Họ là những kỹ sư có lịch sử lâu dài gắn bó với an toàn và dường như sẵn sàng yêu cầu OpenAI đổi hướng nếu cần

Sự thay đổi trong mức độ quan tâm của OpenAI đối với công việc an toàn

• Việc họ ra đi không báo hiệu rằng OpenAI đã thay đổi mục tiêu xây dựng AGI
  • Đó vẫn là mục tiêu của công ty
• Nhưng gần như chắc chắn nó báo hiệu một sự thay đổi trong mức độ quan tâm của OpenAI đối với công việc an toàn
  • Công ty vẫn chưa công bố ai sẽ dẫn dắt nhóm superalignment
• Ngày càng rõ rằng những lo ngại của OpenAI về giám sát từ bên ngoài và minh bạch có lẽ không sâu sắc đến vậy
  • Nếu bạn thực sự muốn có giám sát từ bên ngoài và muốn thế giới có vai trò trong những gì bạn làm, thì việc bắt cựu nhân viên ký các NDA cực kỳ hạn chế rõ ràng không phải là làm đúng theo điều đó

Sự thất vọng đối với OpenAI

• Đây là điều khiến OpenAI trở nên thất vọng một cách căn bản với những người thực sự quan tâm đến việc AI phải mang lại điều tốt đẹp và lợi ích cho nhân loại
  • Ban lãnh đạo công ty nói rằng họ muốn thay đổi thế giới, muốn chịu trách nhiệm khi làm điều đó, và hoan nghênh ý kiến của thế giới về cách thực hiện điều đó một cách công bằng và khôn ngoan
• Nhưng khi tiền thật xuất hiện trên bàn cược (và cuộc đua thống trị AI liên quan đến số tiền khổng lồ), ngày càng rõ rằng có lẽ họ không hề muốn thế giới có quá nhiều tiếng nói
  • Quy trình của họ khiến các cựu nhân viên, những người hiểu rõ nhất chuyện gì đang diễn ra bên trong OpenAI, không thể nói ra với thế giới
• Trên website có thể là những lý tưởng cao đẹp, nhưng trong các thỏa thuận thôi việc lại đầy những câu chữ pháp lý lạnh lùng
  • Rất khó buộc một công ty phải chịu trách nhiệm khi các cựu nhân viên chỉ được phép nói rằng họ "đã từ chức"

Giọng nói dễ thương mới của ChatGPT có thể hấp dẫn, nhưng tôi không đặc biệt bị nó mê hoặc.

[GN⁺]

Ý kiến trên Hacker News

Tóm tắt các bình luận trên Hacker News

• Cách lách thỏa thuận bảo mật

  • Để lách thỏa thuận bảo mật, những nhân viên liên quan có thể tập hợp lại, viết ra mọi điều họ muốn nói, huấn luyện nó vào một LLM (mô hình ngôn ngữ lớn) rồi công khai mô hình đó. Cách này tận dụng logic pháp lý hiện tại là đẩy trách nhiệm sang người dùng mô hình.

• Thỏa thuận bảo mật của OpenAI

  • Các cựu nhân viên OpenAI phải ký các hợp đồng có điều khoản bảo mật và không bôi nhọ cực kỳ nghiêm ngặt. Nếu vi phạm, họ có thể mất số cổ phần trị giá hàng triệu đô la.

• Mức độ nghiêm trọng của tình hình

  • Tình hình rất nghiêm trọng, và một số người xem đây là hành vi phạm tội. Cũng có ý kiến cho rằng hành vi của OpenAI giống vụ Enron.

• Cần tư vấn pháp lý

  • Cần được tư vấn pháp lý liên quan đến SB 331 của California (luật quyền không im lặng). Luật này có thể được áp dụng không chỉ với quấy rối tình dục mà còn với các dạng hợp đồng bất công khác.

• Hợp đồng vô lý

  • Việc ép nhân viên ký thỏa thuận không bôi nhọ suốt đời là không công bằng. Điều này có thể có vấn đề về mặt pháp lý, và để giải quyết thì cần một người đủ can đảm đứng ra khởi kiện.

• Giới hạn của AI

  • Có ý kiến cho rằng AI không thể thay thế mọi lao động của con người. Ví dụ, AI không thể làm các việc như sơn nhà hoặc sửa nồi hơi.

• Thù lao bằng cổ phần ở startup

  • Ở startup, cổ phần là một hình thức thù lao quan trọng. Nhân viên OpenAI nhận lương cao và cổ phần, đồng thời bị yêu cầu ký NDA. Ở Apple cũng có những trường hợp tương tự.

• Sự tôn trọng dành cho Jan Leike

  • Bày tỏ thêm sự tôn trọng đối với Jan Leike.

• Tính hiệu lực của hợp đồng

  • Để hợp đồng có hiệu lực, phải có phần thưởng cổ phần mới được cấp thêm. Việc ép buộc ký hợp đồng mới dựa trên khoản đền bù hiện có là không công bằng.

• Tính riêng tư của hợp đồng

  • Hợp đồng là vấn đề giữa các bên, và nếu có tranh chấp pháp lý thì nên giải quyết tại tòa án. Cần tránh đưa mọi vấn đề ra xử lý công khai.