Cáo phó Cyc

Thất bại của dự án Cyc

• Tóm tắt: Dự án Cyc là một nỗ lực kéo dài 40 năm nhằm xây dựng trí tuệ tổng quát cho AI, được triển khai theo hướng mở rộng logic ký hiệu, nhưng cuối cùng đã thất bại. Bài tiểu luận này nhằm soi chiếu lịch sử bí mật của Cyc để công chúng biết đến rộng rãi hơn.

Nhà toán học tự động và EURISKO

• Nhà toán học tự động (AM): Dự án huyền thoại đầu tiên của Douglas Lenat, là một hệ thống tự động khám phá các khái niệm toán học. Tuy nhiên, sau những khám phá ban đầu, AM nhanh chóng rơi vào trạng thái kiệt quệ trí tuệ.
• EURISKO: Hệ thống được phát triển để khắc phục giới hạn của AM, được thiết kế để có thể tự phát hiện các quy tắc heuristic cho những khám phá mới. Tuy nhiên, EURISKO cuối cùng cũng rơi vào trạng thái kiệt quệ trí tuệ.

Lịch sử của Cyc

• Khởi đầu của Cyc: Năm 1985, Lenat bắt đầu Cyc bằng cách mã hóa thủ công tri thức thường thức. Dự án tiêu tốn khoảng 30 triệu mệnh đề và 200 triệu USD.
• Sử dụng thương mại: Từ sau năm 2016, Cyc chuyển sang các ứng dụng thương mại, nhưng về mặt chức năng thì tương đương với các dịch vụ của những công ty lâu đời như Oracle và IBM.
• Tính bí mật: Cyc mang tính bí mật cao, khiến các nhà nghiên cứu bên ngoài khó sử dụng, và cũng không đạt được kết quả trên các benchmark công khai.

Nguyên nhân thất bại của Cyc

• Giới hạn của logic ký hiệu: Lenat kiên trì với cách tiếp cận logic ký hiệu, nhưng cách này đã thất bại trong việc đạt tới trí tuệ tổng quát cho AI.
• Tầm quan trọng của tri thức thường thức: Lenat cho rằng lý do con người không rơi vào kiệt quệ trí tuệ nằm ở kho tri thức thường thức khổng lồ, và nhờ đó có thể liên tục tạo ra các ý tưởng mới.

Kết luận

• Giới hạn của logic ký hiệu: Thất bại của Cyc cho thấy cách tiếp cận logic ký hiệu không phù hợp để đạt tới trí tuệ tổng quát cho AI.

[GN⁺]

Ý kiến trên Hacker News

• "Đây là kiểu câu mà một AI có tự nhận thức sẽ viết: 'Không có gì để xem ở đây, đi tiếp đi' là cảm giác tôi có được"

  • Cảm thấy Cyc không đi theo hướng hữu ích
  • Đã rất ấn tượng với bản demo block world của McCarthy
  • Cho rằng việc hình thức hóa các quy tắc tạo ra 'ngữ cảnh' để AI hoạt động là điều quan trọng
  • Các ví dụ thất bại ban đầu của LLM là những ví dụ điển hình của thất bại về ngữ cảnh
  • Các mô hình hiện có không có ngữ cảnh trong quá trình huấn luyện, nên đầu ra không được điều chỉnh cho phù hợp với ngữ cảnh

• "Đây là một bài viết rất thú vị và có giá trị"

  • Thật đáng tiếc khi khẳng định chắc chắn rằng dự án đã thất bại
  • Phải mất hơn 40 năm để mạng nơ-ron trở nên hữu ích
  • Nếu cơ sở tri thức của Cycorp trở nên доступно rộng rãi, nó có thể được dùng để huấn luyện LLM

• "Có thể chạy phiên bản opencyc được công khai trực tuyến"

  • Có dataset, cơ sở tri thức và bộ máy suy luận trên GitHub
  • Được viết bằng phiên bản Java cũ

• "Tôi đã cố đọc nhiều về AM và EURISKO, nhưng công trình của Lenat là không công khai"

  • Thật đáng tiếc khi những người khác không thể phát triển tiếp dựa trên công trình của Lenat

• "Bài viết là một bài tổng quan xuất sắc về Symbolic AI"

  • Trước đây đã dành nhiều thời gian với OpenCyc, nhưng 10 năm rồi chưa đụng tới
  • Tương lai hiệu quả của Symbolic AI có lẽ sẽ liên quan đến việc dùng LLM để xây dựng đồ thị tri thức và các quan hệ biểu tượng từ dữ liệu phi cấu trúc

• "Theo trang web của họ, Cyc vẫn đang tiến triển tốt"

  • Lenat qua đời vào năm 2023, nhưng vẫn được liệt kê là thành viên duy nhất của 'đội ngũ lãnh đạo'

• "Tôi nghĩ Lenat đã đúng về định hướng khi cho rằng lượng dữ liệu là chìa khóa để đạt được trí thông minh hữu ích"

  • Từng chỉ trích dự án Cyc, nhưng điều tương tự cũng đã xảy ra với LLM

• "Một bài luận tuyệt vời! Cảm ơn OP vì nghiên cứu không ngừng nghỉ"

• "Tôi không có ý kiến mạnh về Cyc, nhưng cáo phó này tạo cảm giác khá ác ý"

  • Niềm tin nền tảng của Lenat cũng được chia sẻ trong ML
  • ML đòi hỏi một lượng tính toán áp đảo

• "Chủ đề Cyc lớn của năm ngoái"