Các nhà nghiên cứu OpenAI đã gửi thư cảnh báo hội đồng quản trị về đột phá AI trước khi CEO bị phế truất

• Đội ngũ nghiên cứu của OpenAI đã gửi một bức thư tới hội đồng quản trị 4 ngày trước vụ việc Sam Altman, cảnh báo về một phát hiện trí tuệ nhân tạo mạnh mẽ
• Nội dung bức thư chưa được xác nhận, nhưng các nhà nghiên cứu đã chỉ ra năng lực và những rủi ro tiềm tàng của AI

Tiến triển của dự án Q*

• OpenAI được cho là đã tin nội bộ rằng họ đạt được một bước đột phá hướng tới trí tuệ nhân tạo tổng quát (AGI) trong dự án có tên Q*
• Q* đã làm dấy lên kỳ vọng lớn trong giới nghiên cứu khi cho thấy khả năng giải các bài toán ở mức học sinh tiểu học
• Khác với máy tính chỉ giải các phép tính giới hạn, AGI có khả năng khái quát hóa, học hỏi và hiểu biết

SIÊU TRÍ TUỆ

• Toán học là tuyến đầu của sự phát triển AI tạo sinh; hiện nay AI giỏi viết lách và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo
• Khả năng giải toán cho thấy AI có thể sở hữu năng lực suy luận tương tự trí thông minh của con người
• Những năng lực này có thể được áp dụng vào nghiên cứu khoa học mới

Ý kiến của GN⁺

• Điều quan trọng nhất trong bài viết này là việc các nhà nghiên cứu OpenAI đã cảnh báo hội đồng quản trị về những rủi ro tiềm tàng của AI và tiến triển của dự án Q*.
• Phát hiện này, có vẻ như đưa chúng ta tiến gần thêm một bước tới trí tuệ nhân tạo tổng quát (AGI), có thể khơi mào những cuộc thảo luận thú vị về tương lai của công nghệ AI và tác động của nó đối với nhân loại.
• Cùng với những khả năng tích cực mà sự phát triển của AI có thể mang lại, đây cũng là chủ đề hấp dẫn vì có thể nâng cao nhận thức về các rủi ro tiềm tàng.

[cosine20]

Nhưng chẳng phải chuyện này chỉ là vấn đề thời gian thôi sao? Dù OpenAI, bên phát triển trước, có trì hoãn công bố hoặc hủy bỏ đi nữa thì có vẻ sớm muộn gì các đối thủ khác hoặc cộng đồng mã nguồn mở cũng sẽ cho ra thứ tương tự thôi..

[GN⁺]

Ý kiến trên Hacker News

• Liên quan đến một giả thuyết được đăng trên 4chan vài ngày trước, có nội dung rằng nếu một phiên bản được chính thức tuyên bố là AGI (trí tuệ nhân tạo tổng quát) thì sẽ không thể cấp phép cho Microsoft và các bên khác nhằm thu lợi thương mại. Từ đó xuất hiện lập luận rằng Altman không muốn nó bị gọi là AGI, còn các thành viên hội đồng quản trị khác thì muốn.
• Có đề cập đến phát hiện rằng một mô hình mới tên là Q* đã có thể giải một mức độ nào đó các bài toán toán học nhờ sử dụng nguồn lực tính toán khổng lồ được cung cấp. Mô hình này đã thành công trong việc giải các bài toán toán ở mức tiểu học, và các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.
• Có hai bình luận Sam Altman gần đây đã đưa ra liên quan đến phát hiện Q*. Một là bình luận tại APEC vào ngày 18 tháng 11, và một là bài đăng trên Twitter ngày 22 tháng 9. Chúng đều nhắc đến những khoảnh khắc tiến bộ và khám phá của OpenAI.
• Có ý kiến cho rằng việc đặt ra giới hạn đối với sự giàu có và quyền lực của cá nhân là một ý tưởng hay. Chúng ta đã thấy các công ty dầu mỏ hủy hoại Trái Đất vì lợi nhuận, và các công ty công nghệ xâm phạm quyền riêng tư vì lợi nhuận, nên cũng xuất hiện câu hỏi Sam Altman sẽ làm hoặc không làm gì vì lợi nhuận.
• Khoảng một tháng trước, Sam Altman đã để lại bình luận rằng AI có thể tạo ra những kết quả rất kỳ lạ trước khi đạt tới mức trí tuệ tổng quát nhưng sở hữu khả năng thuyết phục siêu phàm. Có khả năng hội đồng quản trị đã bất ngờ trước bước đột phá gần đây và nhấn nút khẩn cấp; việc xuất hiện khả năng "thuyết phục siêu phàm" trước chu kỳ bầu cử, nếu rơi vào tay kẻ xấu, có thể dẫn đến hậu quả khổng lồ.
• Sẽ có ngày AI đảm nhiệm 50% công việc, đưa ra các quyết định quan trọng, chúng ta di chuyển bằng các phương tiện do AI điều khiển, và con người có quan hệ tình cảm với AI; nhưng cho đến lúc đó, chúng ta vẫn sẽ tranh cãi liệu thứ được tạo ra có thực sự là AGI hay không. AGI sẽ luôn bị coi là bước tiếp theo, và rồi một ngày nào đó chúng ta sẽ nhận ra rằng mình đã vượt qua ranh giới đó từ vài năm trước.
• Có nội dung giúp giải thích vì sao hội đồng quản trị OpenAI không thể tin tưởng Sam Altman, và vì sao họ cho rằng làm nổ tung công ty còn tốt hơn là tiếp tục khám phá công nghệ đó.
• Nội dung này phù hợp hơn với bức thư liên quan đến việc hội đồng quản trị sa thải Sam Altman; việc không báo cáo một phát hiện quan trọng mà để hội đồng biết được thông qua thư của nhân viên có thể bị xem là "không trung thực". Ngoài ra, nếu giả định một kịch bản tận thế, cũng có câu hỏi rằng những bí mật như vậy có thể được giữ kín bao lâu để không rơi vào tay kẻ xấu.
• Có ý kiến cho rằng OpenAI đang theo đuổi một cách tiếp cận tiên phong trong chiến lược marketing. Kiểu thông điệp là: "Chúng tôi có một AGI mạnh mẽ trong cái tủ này, và nó quá mạnh nên chúng tôi không muốn thả nó ra", rồi từ đó nhận tiền của mọi người với lời khẳng định rằng họ sẽ giữ nó an toàn.
• Có một phụ huynh đã trò chuyện với cậu con trai 12 tuổi của mình về phần nhàm chán của môn toán, và cậu bé nói rằng giá trị tuyệt đối rất dễ và chán. Khi nghe con nói rằng dùng số phức thì có thể thú vị hơn, người phụ huynh nhận ra rằng cậu bé hiểu giá trị tuyệt đối trên mặt phẳng phức là cạnh huyền tạo bởi phần thực và phần ảo. Sự hiểu biết này không chỉ là kết quả của việc có một cuốn từ điển đồng nghĩa rất lớn, mà xuất phát từ sự hiểu cơ chế nền tảng. Từ đó xuất hiện câu hỏi về việc mô hình ngôn ngữ lớn có thể đi tới kết luận tương tự thông qua quá trình nào.