Trong bối cảnh mốc thời gian AGI thay đổi, OpenAI phải dừng cạnh tranh theo đúng hiến chương của mình

• Trong Hiến chương (Charter) năm 2018, OpenAI đã nêu rõ một “điều khoản tự hy sinh”: nếu một dự án khác chú trọng an toàn tiến gần đến AGI, họ sẽ dừng cạnh tranh và chuyển sang hợp tác
• Theo bảng tổng hợp các phát biểu của Sam Altman, mốc thời gian dự kiến đạt AGI đã rút ngắn mạnh từ 2033 xuống 2025, và gần đây thậm chí còn xuất hiện phát biểu rằng “chúng tôi đã tạo ra AGI”
• Trên bảng xếp hạng mô hình của Arena.ai, Claude của Anthropic và Gemini của Google đứng nhóm đầu, còn GPT-5.4 của OpenAI tụt xuống vị trí thứ 6
• Bài viết chỉ ra rằng tình hình này đáp ứng điều kiện trong hiến chương: hợp tác khi xuất hiện đối thủ có hơn 50% khả năng thành công trong vòng 2 năm
• Kết quả là, OpenAI đáng lẽ phải dừng cạnh tranh và hợp tác theo hiến chương, nhưng trên thực tế đây được xem là ví dụ cho xung đột giữa lý tưởng và động lực kinh tế

---

Điều khoản tự hy sinh trong Hiến chương OpenAI

• Hiến chương OpenAI năm 2018 phản ánh lo ngại rằng cuộc đua phát triển AGI có thể làm tổn hại đến an toàn
  • Có đoạn nêu rằng họ sẽ “dừng cạnh tranh và hỗ trợ” nếu một dự án coi trọng căn chỉnh giá trị và an toàn tiến gần đến AGI
  • Điều kiện kích hoạt điển hình được nêu là khi “xác suất thành công trong vòng 2 năm lớn hơn 50%”
• Điều khoản này hiện vẫn được đăng trên trang chính thức (openai.com/charter) và vẫn là chính sách chính thức của công ty

Sự thay đổi trong dự đoán AGI của Sam Altman

• Theo bảng này, từ 2023 đến 2026, Altman đã liên tục đẩy sớm mốc thời gian đạt AGI
  • Tháng 5/2023, ông nói “trong vòng 10 năm sẽ vượt mức chuyên gia”, nhưng
  • Sang 2024~2025, các phát biểu tiếp tục chuyển thành “đạt AGI vào năm 2025”, thậm chí “chúng tôi đã tạo ra AGI”
• Giá trị trung vị của các dự đoán sau năm 2025 là khoảng trong vòng 2 năm, trùng với điều kiện kích hoạt trong hiến chương
• Trong một số cuộc phỏng vấn, còn xuất hiện cách diễn đạt rằng họ đang “vượt qua AGI để hướng tới ASI (siêu trí tuệ)”

So sánh xếp hạng mô hình trên Arena.ai

• Trong top 10 mô hình trên bảng xếp hạng của Arena.ai, Claude-opus-4-6 của Anthropic đứng số 1, còn Gemini 3.1 của Google đứng số 3
• GPT-5.4-high của OpenAI đứng thứ 6, tức là bị đánh giá thấp hơn mô hình của đối thủ
• Bài viết nhắc rằng các mô hình của Anthropic và Google mang tính “ưu tiên an toàn và căn chỉnh giá trị”, và được xem là phương án thay thế tương thích với GPT

Có đáp ứng điều kiện dừng cạnh tranh hay không

• Khi mốc phát triển AGI đã thu hẹp còn trong vòng 2 năm và mô hình của đối thủ đang dẫn trước, tình hình được đánh giá là đã đáp ứng điều kiện “dừng cạnh tranh và hợp tác” trong hiến chương
• Việc Arena.ai có phù hợp để đo AGI hay không vẫn còn gây tranh cãi, nhưng tinh thần của hiến chương là “tránh chạy đua vũ trang”
• Vì vậy, bài viết đi đến kết luận rằng OpenAI nên hợp tác với Anthropic và Google

Khoảng cách giữa lý tưởng và thực tế

• Bài viết nói rõ rằng trên thực tế, khả năng OpenAI dừng cạnh tranh là gần như không có
• Trường hợp này cho thấy các nguyên tắc mang tính lý tưởng bị vô hiệu hóa trước động lực kinh tế trong thế giới thực
• Đồng thời, bài viết cũng chỉ ra rằng định nghĩa AGI và mốc mục tiêu của nó liên tục dịch chuyển, và gần đây trọng tâm thảo luận đã chuyển sang ASI

[GN⁺]

Ý kiến trên Hacker News

• Trong chủ đề này mọi người chỉ đang tranh cãi về định nghĩa
  Điều thực sự quan trọng là thời điểm về mặt kinh tế — khi nào tự động hóa có AI hỗ trợ con người chuyển thành đầu ra hoàn toàn tự chủ
  Nhìn vào môi trường vận hành AI hiện nay, con người vẫn phụ trách việc rà soát, chỉnh sửa và giám sát. AI xử lý khối lượng, còn con người đảm nhiệm phán đoán. Cuối cùng phán đoán mới là điểm nghẽn
  Không phải lao động đã bị thay thế, mà chỉ là bị dời vị trí. Tổng thù lao lao động trên toàn cầu vào khoảng 50 nghìn tỷ USD mỗi năm, và thị trường vốn đang đặt cược vào việc AI có thể thực sự hấp thụ được một phần trong số đó hay không. Cái tên AGI không quan trọng — vốn không quan tâm đến định nghĩa mà quan tâm đến việc lao động có tách rời khỏi đầu ra hay không

• Mỗi khi thấy những từ như “AGI”, “ASI”, tôi lại tự thay chúng bằng “một thứ gì đó mà chẳng ai định nghĩa nổi cho ra hồn”
  Tức là một khái niệm có định nghĩa không đầy đủ nên không thể rút ra kết luận. Vì vậy tôi cứ thay nó bằng những âm thanh vô nghĩa như “skippity boop”

  • Dạo này tôi gần như không dùng chính từ “AI” nữa. Gọi các công nghệ LLM hay tạo sinh hiện nay như vậy là một cách diễn đạt quá mơ hồ và che lấp vấn đề
  • Trong hiến chương OpenAI, AGI được định nghĩa là “một hệ thống có tính tự chủ cao, vượt con người trong hầu hết các công việc có giá trị kinh tế”
  • Vấn đề là chẳng ai định nghĩa thuật ngữ cả.
    Nếu định nghĩa AGI là “AI đa dụng chứ không chỉ cho một nhiệm vụ cụ thể” thì nó đã tồn tại rồi.
    Nếu là “trí thông minh ở mức con người cho mọi công việc”, thì có những con người cũng không phải AGI.
    Nếu là “một thuật toán ma thuật làm hoàn hảo mọi thứ”, thì có lẽ nó không tồn tại.
    Khi thuật ngữ AGI mới xuất hiện, chắc nó mang nghĩa kiểu HAL 9000, nhưng giờ nó đã thành một trò chơi dời khung thành liên tục
  • Tôi gọi những thứ như vậy là “định nghĩa lãng mạn” hoặc “khái niệm mang tính cử chỉ”. Dùng cho cá nhân hay nội bộ nhóm thì ổn, nhưng rốt cuộc nó chỉ là cách diễn đạt tạm thời để tinh lọc từ vựng
  • Cũng có thể tóm gọn bằng cụm “enskibidification của AI” — tức là khái niệm này ngày càng bị khôi hài hóa

• Kể từ lúc dốc toàn lực vào thương mại hóa công nghệ thì kết cục đã được định sẵn
  Các LLM hiện nay đã bị sử dụng theo cách nguy hiểm, và nếu những tin như thế này tiếp tục được chú ý thì OpenAI sẽ l quietly xóa hiến chương khỏi website thôi

• Các mô hình hiện tại vẫn còn xa AGI
  Dự đoán token tiếp theo đã tiến bộ đến mức đáng kinh ngạc, nhưng chúng vẫn chưa có mô hình thế giới thực hay năng lực học thực sự.
  Nếu không có giám sát của con người thì giới hạn rất rõ ràng

  • Tôi cũng chẳng nhớ đã bao nhiêu tháng kể từ khi người ta nói “trong 12 tháng nữa kỹ sư phần mềm sẽ biến mất”
  • Nhìn vào kết quả nghiên cứu về mechanistic interpretability, tôi nghĩ lập luận “không có mô hình về thế giới thực” giờ không còn thuyết phục lắm

• Có người nói về “sự bất lực của chủ nghĩa lý tưởng ngây thơ”, nhưng tôi thấy đúng hơn là mượn ngôn ngữ lý tưởng làm công cụ marketing
  Trên thực tế đó ngày càng lộ rõ là một tổ chức lấy lợi nhuận làm trung tâm

  • Tôi tin là ban đầu họ từng chân thành. Nhưng rồi Altman bị lòng tham cuốn đi và phản bội lý tưởng đó

• AGI sẽ không đến trong 30 năm tới
  Các nhà nghiên cứu cũng nói vậy.
  AGI thật sự cần học liên tục và trí nhớ sâu, mà LLM không làm được điều đó.
  “Bộ nhớ” hiện nay chỉ là chức năng truy xuất và tóm tắt — giống như một người nghe bài giảng vật lý rồi ghi hết ra giấy nhớ, sau đó người khác lướt qua những tờ đó và viết câu trả lời
  Cần RL và huấn luyện lại, nhưng những thứ đó quá đắt, quá chậm và quá phức tạp.
  LLM có thể viết code rất ấn tượng, nhưng dù bạn bảo “đừng xóa các file trong thư mục X” thì cuối cùng nó vẫn xóa.
  Nó cũng sẽ làm theo cả những lệnh mà kẻ tấn công chèn vào tài liệu.
  Nếu không có trí nhớ thật và RL thời gian thực thì các vấn đề này sẽ không được giải quyết

  • Phép so sánh giấy nhớ này mô tả bản chất của LLM hay nhất. Dù người thứ hai có nhận được ghi chú rất tốt, sự thấu hiểu sâu vẫn còn thiếu
  • Về nhận định “không thể trong 30 năm”, tôi muốn biết đó là dựa trên phát biểu của những nhà nghiên cứu nào.
    Daniel Kokotajlo tweet, phát biểu của Karpathy ở đây, và khảo sát các nhà nghiên cứu AI cho thấy cũng có nhiều dự đoán ngắn hơn nhiều
  • Với tư cách là bác sĩ tâm thần, tôi ví LLM như bệnh nhân mất trí nhớ thuận chiều
    Trong lúc trò chuyện thì nó có vẻ thông minh, nhưng hết phiên là quên sạch.
    Ngay cả trong phiên làm việc, hiệu năng cũng giảm dần — ngữ cảnh dài lại phản tác dụng
    Cuối cùng giới hạn nằm ở sự thiếu vắng cấu trúc ký ức. Con người giải quyết chuyện này bằng trí nhớ dài hạn và giấc ngủ, còn LLM thì không
    Dù thông minh đến đâu, thiên tài không có ký ức cũng chỉ là một savant ngắn hạn
  • Tôi nghĩ phép so sánh giấy nhớ là sai.
    LLM có thể sao chép và tái cấu trúc hàng nghìn trang gần như tức thì.
    RL tại thời điểm kiểm thử và học liên tục dựa trên LoRA đã và đang được triển khai, và theo một số định nghĩa thì AGI thực ra đã đạt được rồi
    Chỉ là hiệu quả kinh tế còn thấp.
    Và thay vì việc làm lập trình viên biến mất, có lẽ chúng ta sẽ càng cần nhiều người có năng lực tư duy tính toán hơn
  • Tôi đồng ý với nhận định “không thể trong 30 năm”, nhưng muốn nghe thêm cơ sở cho nó

• Đây chỉ là trải nghiệm cá nhân, nhưng gần đây GPT 5.4 tốt hơn Opus 4.6
  Tuy vậy nó lại xếp hạng thấp trên bảng xếp hạng Chatbot Arena, điều này khá thú vị

  • Khó mà tin tưởng Chatbot Arena.
    Nó dựa trên phiếu bầu của người dùng phổ thông nên thiếu kiểm chứng chuyên môn, và các tập đoàn lớn cũng từng thao túng thứ hạng
    Khi so sánh các model mới nhất thì nó không có nhiều ý nghĩa
  • Trải nghiệm của tôi thì ngược lại.
    Với cùng một prompt, GPT 5.4 tạo ra những đợt refactor không cần thiết và gây lỗi, còn Opus 4.6 nhận ra tính năng đã được triển khai và đề xuất cập nhật test cùng tài liệu
    Tôi vẫn cho rằng Opus 4.6 là coding agent tốt nhất

• Dự đoán “tháng 9/2026 sẽ có thực tập sinh nghiên cứu AI tự động, tháng 3/2028 sẽ có nhà nghiên cứu AI hoàn chỉnh” khá thú vị
  Nó cũng trùng với thời điểm dự án Autoresearch của Karpathy lên đầu HN.
  Có lẽ các phòng thí nghiệm lớn đã thử nghiệm những phiên bản quy mô lớn hơn rất nhiều

• Tôi đồng cảm với “sự bất lực của chủ nghĩa lý tưởng ngây thơ” và khung thành AGI liên tục dịch chuyển
  Dạo này nhiều người nói về ASI thay vì AGI, tạo cảm giác như AGI có lẽ đã đạt được rồi

• Nghe như đùa, nhưng chưa ai thực sự tiến gần AGI cả
  Chính Altman cũng thừa nhận rằng để đạt AGI sẽ cần nhiều bước đột phá trung gian
  Ông dự đoán khoảng năm 2026 AI sẽ vượt qua mức chỉ tái tổ hợp thông tin sẵn có để tạo ra insight mới, và tôi xem đó là ngưỡng AGI

  • Nhưng tôi lại cảm thấy chúng ta đã vượt qua AGI rồi.
    Tôi nghĩ các LLM hiện nay trung bình có năng lực hơn con người trung bình