- Bài viết khám phá về mặt triết học và kỹ thuật khái niệm ‘trí tuệ (intelligence)’ của con người và trí tuệ nhân tạo, đồng thời xem xét lại định nghĩa và bản chất của nó
- Trí tuệ được quy định không phải là năng lực tính toán đơn thuần mà là khả năng thích nghi với môi trường và khái quát hóa việc giải quyết vấn đề
- Bài viết so sánh sự khác biệt giữa trí tuệ sinh học và trí tuệ nhân tạo, đồng thời nêu sự hiểu ngữ cảnh và tính định hướng mục tiêu là các yếu tố cốt lõi
- Giải thích rằng sự phát triển của trí tuệ nhân tạo đóng vai trò như một tấm gương giúp con người hiểu sâu hơn về bản chất của trí tuệ con người
- Những thảo luận này mang lại hàm ý quan trọng cho việc tái định hình định hướng nghiên cứu AI và triết lý thiết kế lấy con người làm trung tâm
Định nghĩa và bản chất của trí tuệ
- Bài viết không xem trí tuệ đơn thuần là xử lý thông tin hay năng lực tính toán, mà định nghĩa nó là năng lực khái quát hóa để thích nghi với môi trường và đạt được mục tiêu
- Trí tuệ không phải là kỹ năng giải một vấn đề cụ thể, mà là tính linh hoạt của khả năng học và giải quyết những vấn đề mới
- Vì vậy, trí tuệ được mô tả không phải là một thuộc tính tĩnh mà là một quá trình động thay đổi theo tình huống và ngữ cảnh
- Bài viết cho rằng trí tuệ con người gắn bó sâu sắc với ý thức, cảm xúc và tương tác xã hội, và điều này không thể bị quy giản thành các phép tính thuật toán đơn thuần
- Tư duy của con người bao gồm việc thiết lập mục tiêu, phán đoán giá trị và suy luận dựa trên kinh nghiệm
- Những yếu tố này được chỉ ra là các lĩnh vực mà các hệ thống trí tuệ nhân tạo hiện nay khó mô phỏng
So sánh trí tuệ nhân tạo và trí tuệ sinh học
- Trí tuệ nhân tạo thực hiện các tác vụ cụ thể thông qua học mẫu dựa trên dữ liệu, trong khi con người giải quyết vấn đề thông qua sự hiểu ngữ cảnh và diễn giải ý nghĩa
- AI học các tương quan thống kê, nhưng con người nhận thức được quan hệ nhân quả và tính mục đích
- Sự khác biệt này cho thấy bản chất của ‘trí tuệ’ nằm ở khả năng kiến tạo ý nghĩa, hơn là chỉ ở tốc độ xử lý thông tin
- Trong khi trí tuệ sinh học được hình thành dưới áp lực tiến hóa và mục tiêu sinh tồn, trí tuệ nhân tạo lại vận hành theo hàm mục tiêu do con người thiết kế
- Vì vậy, ‘trí tuệ’ của AI được quy định là một hình thức nhân tạo phụ thuộc vào mục đích bên ngoài
- Trí tuệ con người bao gồm cấu trúc động cơ nội tại như tự bảo toàn và hợp tác xã hội
Các thành phần của trí tuệ và vấn đề đo lường
- Bài viết đưa ra các thành phần chính cấu thành trí tuệ gồm học tập, suy luận, ghi nhớ, lập kế hoạch, sáng tạo
- Các yếu tố này tương tác với nhau và tạo ra hành vi thích nghi trong những môi trường cụ thể
- Ví dụ, tính sáng tạo được mô tả là biểu hiện bậc cao của trí tuệ khi tái tổ hợp tri thức hiện có để đề xuất lời giải mới
- Bài viết cũng chỉ ra khó khăn trong việc đo lường trí tuệ
- IQ hay các bài kiểm tra benchmark chỉ đo lường một số loại năng lực giải quyết vấn đề nhất định, và không phản ánh được tính chất phức hợp của trí tuệ thực tế
- Vì vậy, để đánh giá trí tuệ cần xem xét đồng thời khả năng thích nghi theo ngữ cảnh và năng lực khái quát hóa
Những câu hỏi triết học do sự phát triển của trí tuệ nhân tạo đặt ra
- Sự phát triển nhanh chóng của trí tuệ nhân tạo một lần nữa đặt ra câu hỏi nền tảng ‘bản chất của trí tuệ là gì’
- Khi AI càng mô phỏng được ngôn ngữ, sáng tạo và phán đoán của con người, nhu cầu khám phá xem trí tuệ đặc thù của con người nằm ở đâu càng lớn hơn
- Đây không chỉ là vấn đề kỹ thuật đơn thuần mà còn mở rộng thành vấn đề bản thể luận và đạo đức
- Bài viết giải thích rằng AI đóng vai trò như một tấm gương phản chiếu trí tuệ con người
- Thông qua các giới hạn và sai sót của AI, chúng ta có thể hiểu rõ hơn cấu trúc và điểm mạnh của tư duy con người
- Vì vậy, nghiên cứu AI được diễn giải là một quá trình mở rộng hiểu biết về con người
Định hướng tương lai của nghiên cứu trí tuệ
- Bài viết nhấn mạnh rằng nghiên cứu về trí tuệ trong tương lai cần bao gồm thiết kế lấy con người làm trung tâm và các cân nhắc đạo đức
- Không chỉ thành tựu kỹ thuật, mà tác động của trí tuệ đối với xã hội và đời sống con người cũng phải được đánh giá cùng lúc
- Điều này gắn với vấn đề ‘căn chỉnh giá trị (value alignment)’ trong việc thiết kế các hệ thống AI phản ánh giá trị và mục đích của con người
- Việc tái định nghĩa trí tuệ được trình bày như một quá trình củng cố nền tảng triết học của phát triển AI
- Sự tiến bộ công nghệ có thể làm sâu sắc thêm hiểu biết về trí tuệ con người, đồng thời trở thành cơ hội để tái cấu trúc ý nghĩa của trí tuệ
- Cuối cùng, nghiên cứu về trí tuệ cần tiến tới hướng khám phá đồng tiến hóa (co-evolution) giữa con người và máy móc
2 bình luận
Ý kiến Hacker News
Tôi cảm thấy cuốn sách này rất cần một biên tập viên
Khoảng 100 tiêu đề chương giống như được ghép nối theo kiểu liên tưởng trong trạng thái mê sảng, và mỗi phần trông như một thử nghiệm nghệ thuật nhằm khiến người đọc bối rối
Có rất nhiều sơ đồ phức tạp và thuật ngữ chuyên môn chỉ liên hệ lỏng lẻo với nội dung, lại còn có cả scroll hijacking nên càng khó đọc
Nghe nói toàn bộ dài tới 600 trang, nên có lẽ đa số sẽ không đọc từ đầu đến cuối
Tức là dẫn dắt sự đồng thuận của người đọc theo trình tự sự thật có thể kiểm chứng → chân lý hiển nhiên → ý kiến được chấp nhận rộng rãi → khẳng định vô căn cứ → kết luận sáo mòn
Kiểu cấu trúc này thường là kỹ thuật thuyết phục được lãnh đạo giáo phái hoặc diễn giả chính trị sử dụng để khéo léo chen các luận điểm có nền tảng logic yếu vào
Phần điều khiển học và lý thuyết tính toán của cuốn sách được khảo cứu khá kỹ, nhưng không có gì độc đáo và thiếu một luận đề thống nhất
Việc trộn lẫn câu chuyện sinh học và điện ảnh lại càng làm giảm độ tập trung
Tác giả có quan điểm rất mạnh về AI, nhưng dường như thay vì lập luận trực diện, ông lại cố giấu nó trong một kiểu kẹp thuyết phục
Tham khảo liên quan: Compliment Sandwich, bài viết History of Computing
Tôi chưa đọc hết sách, nhưng có lẽ đọc lý thuyết xử lý dự đoán của Karl Friston hoặc Andy Clark sẽ đáng giá hơn
Thiết kế trên trang của tôi thì dễ đọc hơn thật, nhưng cấu trúc kỳ quặc của cuốn sách lại tạo cảm giác hấp dẫn
Dạo này cứ thấy kiểu văn như vậy là tôi cảm giác có sự mơ hồ có chủ đích hoặc một cách tiếp cận giả khoa học, nên thường bỏ qua luôn
Trong cuộc thảo luận này không thể bỏ qua 『Universal Artificial Intelligence』 của Marcus Hutter
Cuốn sách này đưa ra định nghĩa toán học về trí tuệ và nền tảng của ra quyết định dựa trên xác suất thuật toán
Giới hạn của công nghệ AI hiện nay cũng có thể được giải thích trong khuôn khổ đó
Tôi muốn hỏi liệu ở đây có ai thực sự đọc cuốn sách này chưa
Tôi mới đọc được khoảng một nửa, nhưng thấy ý tưởng tự sao chép xuất hiện một cách tự nhiên trong một vũ trụ tính toán khá thú vị
Nó cho cảm giác giống thế giới quan của Wolfram, nhưng nỗ lực kết nối nhiều lĩnh vực khác nhau rất kích thích
Đọc như sách khoa học đại chúng thì khá ổn
Đặc biệt, khái niệm “sao chép bắt đầu từ những bản sao tồi” để lại ấn tượng mạnh
Quá trình một hệ thống lúc đầu sao chép không hoàn hảo rồi dần cải thiện để đạt tới tái tạo thực sự rất hấp dẫn
Tôi nghĩ ý tưởng này cũng áp dụng được cho startup, ý tưởng và hệ thống tài chính
Nhân tiện, bản trực tuyến có lỗi trong mã brainfuck, hãy thử tìm xem
Tôi nghĩ ý nghĩa nảy sinh từ sự thay đổi trạng thái
Con người là những cỗ máy tạo nghĩa phức tạp, và vì vũ trụ bị ràng buộc bởi entropy nên có giới hạn thời gian
Trong quãng thời gian đó, tôi xem chúng ta là những thực thể phát ra ý nghĩa như các vì sao phát ra ánh sáng
Tôi chưa trực tiếp đọc sách, nhưng có vẻ tác giả cho rằng phần lớn trí tuệ con người có thể được AI tái tạo
Tức là theo quan điểm các hệ thống phi sinh học cũng có thể thể hiện hành vi thông minh
Nhưng AI không có bối cảnh thân thể (embodiment), nên khó xem là trí tuệ giống con người
Để hiểu nguồn gốc của trí tuệ con người, 『A Dynamic Systems Approach to the Development of Cognition and Action』 của Ester Thelen là một điểm khởi đầu tốt
Cuốn sách giải thích rằng sự phát triển của con người không đến từ chương trình di truyền sẵn có mà từ sự tương tác của thử và sai
Cuối cùng, tôi nghĩ chính nghệ thuật chăm sóc và giáo dục là chìa khóa thúc đẩy văn minh phát triển
Bản thân tính từ ‘nhân tạo’ đã tạo ra sự phân biệt rồi
Nhưng chúng không có ý chí (will). Mục tiêu của chúng rốt cuộc chỉ là ý chí của lập trình viên
Thái độ của tác giả kiểu “đây không phải triết học mà là khoa học tiếp nối bước chân của Turing” tạo cảm giác giả vờ khiêm tốn nhưng thực ra coi thường triết học
Luận điểm cốt lõi “bắt chước là trí tuệ” có thể dễ dàng bị phản bác bằng các ví dụ xã hội
Chẳng hạn, một diễn viên có thể đóng vai thiên tài hoàn hảo nhưng bản thân anh ta không phải thiên tài thật
Nói cách khác, việc tạo ra những câu văn nghe có lý không phải bản chất của trí tuệ
Trí tuệ con người bắt nguồn từ suy luận nền tảng và nhận diện mẫu bằng giác quan, và đó vẫn là lĩnh vực AI chưa chạm tới được
Ngay cả mạng nơ-ron đơn giản cũng là bộ xấp xỉ phổ quát (universal approximator), nên cả não sinh học lẫn não nhân tạo rốt cuộc có thể chỉ là những thực thể xấp xỉ các hàm phức tạp của thế giới
Trí tuệ không chỉ là xấp xỉ đầu vào-đầu ra, mà là khả năng học cấu trúc nhân quả, mô phỏng và lập kế hoạch
LLM có vẻ thông minh chỉ vì chúng đã hàm chứa tri thức do trí tuệ con người mở rộng ra
Câu hỏi thực sự là liệu nó có thể tự xây dựng mô hình nhân quả hay không
Các LLM hiện nay làm nội suy (interpolation) tốt nhưng ngoại suy (extrapolation) còn yếu
Đầu vào cảm giác đến từ nhiều chu kỳ và vị trí khác nhau, nên nếu đơn giản hóa chúng thì có thể làm mất thông tin quan trọng
Trong một cuộc phỏng vấn tôi từng nghe trước đây, có giả thuyết rằng suy luận (reasoning) của con người tiến hóa không phải chủ yếu để tư duy logic mà để thuyết phục trong xã hội
Tức là chúng ta tạo ra lý do để thuyết phục người khác hoặc biện minh cho hành động của mình
Ở điểm này, tôi cảm thấy dự đoán token tiếp theo của LLM và cấu trúc hội thoại của con người khá giống nhau
Có lẽ đó là nghiên cứu của Hugo Mercier
Xem Why do humans reason?
Để làm công cụ và truyền lại tri thức thì cần giáo dục và hợp tác
Trích dẫn liên quan: Cambridge excerpt
Trong khi đó LLM không xử lý khái niệm mà chỉ xử lý từ ngữ
Ngôn ngữ chỉ là công cụ do con người tạo ra, ý tưởng và ngôn ngữ là hai thứ khác nhau
Theo nghĩa đó, đây là lập luận tương tự cuốn 『Language vs Reality』 của N.J. Enfield
Cách làm là tăng dần số lượng từ dự đoán tự động trên smartphone và đo xem nó trở nên giống hội thoại của con người đến mức nào
Cuốn sách bàn về tính trung tâm của dự đoán, cấu trúc xã hội của trí tuệ, chức năng nén của ngôn ngữ và giới hạn của các hệ thống bị cô lập
Nhưng điểm tranh cãi cốt lõi là liệu trí tuệ thật sự có thể tồn tại chỉ bằng nguyên lý tính toán thuần túy, hay cần tính nội tại từ môi trường
Tôi cho rằng chi phí và hiệu quả dẫn dắt mọi quá trình học
Vì các hệ sinh học phải hỗ trợ thế hệ tiếp theo, nên trí tuệ trở thành một quá trình tìm kiếm được tối ưu hóa bởi áp lực kinh tế
Bài liên quan: What the Dumpster Teaches
Chỉ đo nhiệt độ rồi tự tắt không phải là suy luận về mục tiêu
Trí tuệ thực sự phải có một lớp meta có thể phản tư về mục tiêu của chính mình
Tức là vẫn tồn tại áp lực chọn lọc kinh tế, nên cấu trúc đó không hoàn toàn khác biệt
Con người ghét những mâu thuẫn như vậy nên cố duy trì tính nhất quán bằng câu chuyện (story)
Tôn giáo, chính trị, luật pháp, huyền thoại AI... đều là thiết bị tự sự làm dịu sai số dự đoán tập thể
Nhưng vi sinh vật vẫn sống sót mà không cần những thứ đó
Cuối cùng thì trí tuệ chỉ là một vòng xoáy bất ổn của thông tin, chứ không nhất thiết là điều bắt buộc để duy trì sự sống
Nếu ý thức là một hiện tượng emergent, thì trí tuệ dựa trên silicon cũng có thể khả thi
Theo đánh giá trên Amazon
cốt lõi của cuốn sách là giả thuyết bộ não dự đoán, tức “não bộ tiến hóa để dự đoán tương lai”
Đồng thời, sách cũng lập luận rằng một số hệ thống AI hiện đại có thể có trí tuệ, ý thức và ý chí tự do
Vì vậy, định nghĩa bằng ‘dự đoán’ chỉ là một đặc tính tạm thời thay đổi theo thời gian
Trí tuệ là những gì chúng ta nghĩ rằng mình tự làm được
Nhưng máy tính ngày càng làm được hết những thứ đó
Cuối cùng có lẽ trí tuệ con người chỉ là so khớp mẫu ở cấp độ cao
LLM hiện vẫn chưa thể nghiên cứu tự chủ hay thiết kế bậc cao
Ngoài ra còn thiếu khả năng biết quên và quản lý ngữ cảnh bản thân
Phần lớn trí tuệ của con người cũng có ở các loài khác, nhưng được tăng tốc nhờ chữ viết và chế tác công cụ
So khớp mẫu cung cấp một heuristic rất tốt rằng “tương quan có khả năng cao là nhân quả”
Trí tuệ là khả năng hack và hiểu hệ thống, và nhờ đó tích lũy thêm tri thức phức tạp hơn
Từ lửa, đá và lúa mì, giờ chúng ta đã bàn tới cả thám hiểm sao Hỏa