OpenAI âm thầm hủy bỏ cam kết công khai các tài liệu quan trọng cho công chúng

• OpenAI đã cam kết công khai các tài liệu quản trị ngay từ khi thành lập, nhưng gần đây đã từ chối cung cấp khi WIRED yêu cầu
• OpenAI được thành lập để xã hội và công chúng có thể tham gia vào quá trình phát triển AI mạnh mẽ, nhưng hiện đã áp dụng chính sách mới không công khai tài liệu nội bộ
• Việc OpenAI rút lại cam kết về tính minh bạch khiến việc hiểu rõ những điểm yếu của công ty và các khủng hoảng gần đây của một công ty có ảnh hưởng lớn đến tương lai AI trở nên khó khăn hơn

Khủng hoảng và quản trị của OpenAI

• Hội đồng quản trị OpenAI đã sa thải CEO Sam Altman, nhưng sau phản ứng dữ dội từ nhân viên và nhà đầu tư, Altman đã quay lại và phần lớn thành viên hội đồng đã bị thay thế
• Việc đan xen giữa các khoản đầu tư cá nhân của Altman và vai trò công việc của ông có thể là một phần nguyên nhân gây ra sự mất lòng tin từ hội đồng quản trị
• Việc công khai các tài liệu quản trị của OpenAI có thể làm rõ hội đồng quản trị có những quyền hạn nào đối với Altman và các hoạt động bên ngoài của ông

Cấu trúc doanh nghiệp của OpenAI và Microsoft

• Điều lệ thành lập của OpenAI cho thấy cách một bộ phận của hội đồng quản trị có thể giành quyền kiểm soát và loại Altman khỏi vị trí của ông
• CEO Microsoft Satya Nadella cho biết ông công khai ngạc nhiên trước việc Altman bị sa thải
• OpenAI có thể đã sửa đổi các tài liệu quản trị để ổn định cấu trúc hội đồng quản trị và trấn an các nhà tài trợ như Microsoft

Sự suy giảm minh bạch của OpenAI

• Trước đây OpenAI từng công bố thông tin chi tiết về các phát minh AI, nhưng gần đây lại bảo vệ dữ liệu và các chi tiết kỹ thuật của những công cụ như ChatGPT
• Tính minh bạch đã suy giảm kể từ khi công ty thành lập công ty con vì lợi nhuận vào năm 2019, nơi thực hiện phần lớn hoạt động phát triển AI thay cho bộ phận phi lợi nhuận
• Tổ chức phi lợi nhuận của OpenAI cuối cùng vẫn kiểm soát các hoạt động và công nghệ của OpenAI

Tổ chức phi lợi nhuận của OpenAI và báo cáo IRS

• Các tổ chức phi lợi nhuận tại Mỹ phải công khai báo cáo thường niên gửi IRS và phải cho biết liệu có thể công khai thêm tài liệu hay không
• OpenAI cho biết trong các báo cáo thường niên gửi IRS đến năm 2022 rằng sẽ cung cấp thêm hồ sơ "khi có yêu cầu", nhưng trên thực tế đã không cung cấp
• Việc các tổ chức phi lợi nhuận công khai tài liệu nội bộ là điều hiếm gặp và khó tiếp cận

Tình hình tài chính của OpenAI

• Báo cáo tài chính do OpenAI công bố loại trừ kết quả của bộ phận vì lợi nhuận, và cho thấy trong năm 2022 công ty báo cáo doanh thu 44.000 USD cùng chi phí 1,3 triệu USD
• Toàn bộ OpenAI tạo ra doanh thu lên tới hàng triệu USD, nhưng con số này không được công khai
• Bộ phận phi lợi nhuận của OpenAI gần như không nhận được nhiều hỗ trợ từ công chúng, nên thiếu động lực để tăng cường tính minh bạch

Ý kiến của GN⁺

• Việc OpenAI rút lại cam kết minh bạch khiến việc hiểu cách vận hành của một công ty có ảnh hưởng lớn đến tương lai công nghệ AI trở nên khó khăn hơn
• Sự thay đổi này có thể làm suy giảm sự tham gia và niềm tin của công chúng đối với nghiên cứu và phát triển AI
• Thay đổi chính sách của OpenAI là một trường hợp quan trọng có thể khơi mào cho các cuộc thảo luận về tính minh bạch và vận hành có đạo đức trong ngành AI

[GN⁺]

Ý kiến trên Hacker News

• Thất vọng, nhưng không bất ngờ. Hãy thử rút ra bài học từ chuyện này.

  • Trong lĩnh vực AI, việc cổ xúy cho chủ nghĩa vị tha và tính mở là điều được ưa chuộng, và OpenAI, Anthropic, cùng xAI mới của Musk đều có những cấu trúc quản trị khác thường nhân danh lợi ích công. Vấn đề là khi một trong các công ty này bắt đầu nhận được đủ sự chú ý để có triển vọng kiếm lợi nhuận hàng tỷ đô la, thì mọi thứ sẽ thay đổi.
  • Vấn đề này không chỉ giới hạn ở các công ty AI, và cũng chẳng phải điều gì mới. Đây là một phần của bản tính con người và sẽ luôn tồn tại.
  • Chúng ta cần nhấn mạnh và quan tâm nhiều hơn đến các mô hình AI thực sự mở để lợi ích của AI đến được với công chúng thay vì chỉ một số ít công ty: dữ liệu huấn luyện mở, mã nguồn và siêu tham số huấn luyện, mã nguồn mô hình và trọng số.

• Ai cũng biết OpenAI không chia sẻ gì kể từ sau khi ra mắt ChatGPT nhưng vẫn nhận được hàng tỷ đô la đầu tư, nên không có gì phải ngạc nhiên khi OpenAI trở nên khép kín.

• OpenAI đã phá vỡ mọi lời hứa mà họ từng đưa ra.

• Làm sao hội đồng quản trị lại để chuyện này xảy ra được!

  • Nghĩ kỹ hơn thì đây vừa là kết cục hiển nhiên, vừa mang cảm giác hơi mờ ám.
  • Đúng là OpenAI cần rất nhiều tiền và vốn, và điều đó đồng nghĩa họ cần gây quỹ và thiết lập quan hệ đối tác.
  • Nhưng lý do duy nhất khiến họ có thể tồn tại ngay từ đầu là vì họ tự định vị mình là một công ty “mở”, gần như một loại hàng hóa công, và đã nhận quyên góp dựa trên điều đó.

• Dựa trên tất cả những gì chúng ta đã nghe về khả năng công nghệ này có thể bị sử dụng theo cách gây hại cho xã hội, tôi tự hỏi liệu tình hình này có nghiêm trọng đến mức cần một cuộc điều tra nào đó để tìm hiểu chuyện gì đang diễn ra hay không.

  • Tình hình này đủ nghiêm trọng để không thể tiếp tục phó mặc việc tư nhân hóa kiểu công việc này.
  • Không cần bận tâm đến lập luận rằng “đây là chuyện bình thường”. Đó chỉ là nỗ lực khiến mọi người xem kiểu hành xử này là bình thường mà thôi.
  • Có ai biết liệu có trung tâm an toàn AI nào đang hành động vì lợi ích công cộng và liệu vấn đề này có nằm trong tầm theo dõi của họ không?

• Tôi không muốn bênh vực Musk, nhưng nếu tôi là ông ấy thì chắc tôi cũng sẽ hơi bực khi một bài báo mở đầu bằng kiểu “các doanh nhân công nghệ giàu có đã hứa về sự minh bạch nhưng giờ thì không”, rồi phải đến tận đoạn 8 mới chỉ ra rằng người đồng sáng lập duy nhất được nhắc đến đã bị loại khỏi cuộc chơi từ nhiều năm trước, nay lại là đối thủ và gọi đó là “AI siêu đóng nguồn để tối đa hóa lợi nhuận”.

  • Truyền thông bị nghiện việc đổ lỗi, còn mọi sắc thái nằm giữa lời buộc tội và tiêu đề thì bị đẩy xuống cuối bài, giấu sau paywall. Có lẽ vài năm nữa, chiến thuật này cũng sẽ được dùng với Altman.
  • Tình hình đã tệ đến mức mỗi khi đọc một tiêu đề ngụ ý sự đạo đức giả, tôi lại có xu hướng tin điều ngược lại nhiều hơn, và đó là một dạng lệch lạc tinh thần tệ hại chẳng kém gì việc mặc định tiêu đề là đúng!

• Ngay từ khi tổ chức này được thành lập, lẽ ra phải có các quy tắc để ngăn chuyện như thế này xảy ra. Diễn biến sự việc cho thấy mô hình quản trị của họ không hiệu quả.

• Có lẽ chẳng còn bao lâu nữa họ sẽ đổi tên công ty thành “Microsoft AI”.

• Tốt nhất đừng coi OpenAI là một tổ chức phi lợi nhuận vì lợi ích công; hãy nhìn họ như bất kỳ công ty công nghệ tư nhân nào khác.