Cách suy luận theo chuỗi ý nghĩ hỗ trợ phép tính của mạng nơ-ron

Cách suy luận theo chuỗi ý nghĩ giúp ích cho tính toán của mạng nơ-ron

• Khi mô hình ngôn ngữ lớn cho thấy các bước làm việc lúc giải bài toán, hiệu năng sẽ được cải thiện.
• Các nhà nghiên cứu bắt đầu hiểu vì sao kỹ thuật này lại hiệu quả.

Huấn luyện Transformer

• Mô hình ngôn ngữ lớn dựa trên một cấu trúc toán học gọi là mạng nơ-ron nhân tạo.
• Các 'nơ-ron' bên trong mạng thực hiện những phép toán đơn giản trên các chuỗi số dài biểu diễn từng từ riêng lẻ.
• Transformer sử dụng một cấu trúc toán học đặc biệt gọi là đầu attention để quét văn bản nhanh và xác định các liên kết liên quan giữa các từ.

Độ phức tạp của Transformer

• Các nghiên cứu lý thuyết về Transformer xem nó như một loại máy tính cụ thể mà không xét đến những gì xảy ra trong quá trình huấn luyện.
• Các nhà nghiên cứu đã chứng minh rằng Transformer có thể mạnh ngang với máy Turing.

Thí nghiệm tư duy

• Các nhà nghiên cứu đặt ra câu hỏi Transformer sẽ mạnh hơn đến mức nào khi nó tái sử dụng đầu ra của chính mình.
• Suy luận theo chuỗi ý nghĩ có thể cung cấp cách vượt qua những giới hạn của Transformer.

Trở lại thực tế

• Phân tích lý thuyết hé lộ nhiều điều về các mô hình ngôn ngữ thực tế, nhưng không thể kỳ vọng kết quả hoàn hảo.
• Phân tích lý thuyết độ phức tạp rất quan trọng để nhận thức các giới hạn của Transformer.

Ý kiến của GN⁺

• Nghiên cứu này đóng góp quan trọng cho việc hiểu các giới hạn và tiềm năng của mô hình Transformer trong lĩnh vực trí tuệ nhân tạo. Đặc biệt, nó mang lại góc nhìn về cách suy luận theo chuỗi ý nghĩ có thể hỗ trợ giải các vấn đề phức tạp.
• Tuy nhiên, vì kết quả nghiên cứu lý thuyết không phải lúc nào cũng trùng khớp với hiệu năng của mô hình thực tế, nên cần thận trọng khi áp dụng vào ứng dụng thực tế. Hiệu năng trong môi trường thật còn chịu ảnh hưởng bởi nhiều yếu tố như dữ liệu huấn luyện, kiến trúc mô hình và việc tinh chỉnh siêu tham số.
• Bài viết này cung cấp thông tin hữu ích cho các nhà nghiên cứu AI bằng cách chỉ ra giới hạn của các mô hình xử lý ngôn ngữ và gợi mở hướng nghiên cứu để phát triển mô hình tốt hơn.
• Một dự án khác có chức năng tương tự là dòng GPT của OpenAI, đây là ví dụ điển hình để kiểm chứng hiệu năng của mô hình ngôn ngữ lớn trong thực tế.
• Khi đưa vào các công nghệ hoặc mô hình mới, luôn cần cân nhắc khả năng tương thích với hệ thống hiện có, chi phí, hiệu năng và bảo trì; nghiên cứu được đề cập trong bài viết này cung cấp kiến thức nền hữu ích để hỗ trợ những quyết định đó.

[GN⁺]

Ý kiến trên Hacker News

• Ý kiến về trải nghiệm tương tác với chain-of-thought:

  • Chain-of-thought không giống với chuỗi suy luận nghiêm ngặt trong toán học hay logic.
  • Những gì mô hình tạo ra thông qua suy luận từng bước phụ thuộc vào độ mạnh của ngữ cảnh liên quan, và điều này yếu hơn nhiều so với toán học/logic do con người thực hiện.
  • Mô hình không suy luận logic như con người mà nhảy vọt thông qua ngữ cảnh liên quan.
  • Mô hình transformer chỉ thực hiện tính toán khi tạo token, nên nếu dùng chain-of-thought để tạo thêm token thì mô hình sẽ có nhiều thời gian hơn để "suy nghĩ".

• Những câu hỏi trọng tâm liên quan đến nghiên cứu hình thức về tính toán:

  • Nghiên cứu hình thức về tính toán có thể truy về Alan Turing, người đã hình dung ra máy Turing vào năm 1936.
  • Trước đó nữa, vào thập niên 1920 Moses Schönfinkel đã phát triển combinatory logic, và đầu thập niên 1930 Alonzo Church đã phát triển lambda calculus.
  • Các mô hình này không phù hợp để làm nền tảng cho lý thuyết độ phức tạp tính toán.

• Hai góc nhìn về mô hình ngôn ngữ lớn (LLM):

  • Những người cho rằng LLM "có ý thức" hoặc chỉ là "bộ dự đoán token tiếp theo với một tập dữ liệu ấn tượng" thường chia thành hai nhóm: người học nền tảng ML trước rồi mới tiếp cận LLM, và người đi theo chiều ngược lại.
  • Vì các khái niệm nền tảng có thể giới hạn khả năng nhìn bức tranh lớn hơn, nên tranh luận là điều đáng hoan nghênh.
  • Kết quả của bài báo gốc về chain-of-thought thường không được tái hiện trong các nỗ lực theo sau.

• Mô hình không thể suy nghĩ:

  • Mô hình dùng ngữ cảnh đầu vào để dự đoán đầu ra.
  • Với những bài toán cần được giải lặp đi lặp lại, các bước trung gian phải được giữ trong ngữ cảnh.

• Một lý do ngắn gọn về độ phức tạp tính toán:

  • Nếu xem LLM như một máy tính thực hiện một lần forward pass thời gian hằng trên đầu vào, thì cho nó nhiều chu kỳ hơn sẽ giúp nó thực hiện được nhiều tính toán hơn.
  • Đây là phần mở rộng của vấn đề một perceptron đơn tầng không thể tính XOR.

• Giải thích ngắn gọn về điều kỳ diệu của chain-of-thought:

  • Trích một tweet về việc dữ liệu và prompt hoạt động tốt một cách đáng kinh ngạc.
  • Có rất nhiều website cung cấp lời giải từng bước cho các bài toán.

• Ý kiến liên quan đến chain-of-thought:

  • Chain-of-thought tương tự như "làm mờ", và điều này được trực giác hiểu là cách tiếp cận đúng để xấp xỉ trí thông minh.

• Trường hợp áp dụng chain-of-thought và thử nghiệm ý thức nhân tạo:

  • Khi tiếp tục chain-of-thought vượt ra ngoài việc trả lời câu hỏi, một dạng ý thức nhân tạo xuất hiện.

• Trường hợp áp dụng chain-of-thought theo chiều ngược lại:

  • Huấn luyện mô hình để đưa ra đáp án trước, rồi sau đó mới suy luận các bước.
  • Các nhà nghiên cứu của Mistral AI đã dùng phương pháp này, và mô hình cho thấy hành vi trả lời trước rồi mới suy luận đối với các câu hỏi phức tạp.