Từ cuộc đua xe tự lái đến nền tảng giáo dục AI: phỏng vấn Andrej Karpathy, cựu Tesla và cựu OpenAI

Hiện trạng công nghệ tự lái

• Waymo và Tesla đang cạnh tranh vị trí dẫn đầu
• Waymo hiện đang vận hành dịch vụ thương mại tại San Francisco
• Bài toán Tesla giải là bài toán phần mềm, còn bài toán Waymo giải là bài toán phần cứng
• Bài toán phần mềm dễ giải hơn nhiều, và Tesla đã ở quy mô mà Waymo không thể so sánh
• Karpathy dự đoán trong vòng 10 năm tới Tesla sẽ chiếm ưu thế

Hướng phát triển của mô hình AI

• Mô hình Transformer là cốt lõi của nghiên cứu AI
• Dữ liệu có thể tìm thấy trên Internet về cơ bản đã được học hết, nên hiện nay trọng tâm là tối ưu hóa bộ dữ liệu và loss function
• Dữ liệu tìm thấy trên Internet thực chất là kết quả của tư duy con người; loại dữ liệu còn thiếu hiện nay là về quá trình suy nghĩ nhiều bước diễn ra trong đầu con người
• Dự kiến việc tạo dữ liệu tổng hợp bằng cách tái dựng ngược quá trình tư duy bằng mô hình Transformer sẽ trở nên quan trọng
• Ngay cả với dưới 100 triệu tham số cũng có thể xây dựng được mô hình AI mạnh mẽ (GPT-4 được ước tính có 1,8 nghìn tỷ tham số)

Sự hòa nhập giữa AI và con người

• Có thể sử dụng AI như một vỏ não ngoài
• Về lâu dài, ranh giới giữa AI và con người sẽ trở nên mơ hồ
• Được dự đoán sẽ phát triển dưới dạng trợ lý AI hoặc công cụ được cá nhân hóa

Nền tảng giáo dục AI (Eureka Labs)

• Nền tảng giáo dục dựa trên AI mà Karpathy đang phát triển
• Mục tiêu là cung cấp trải nghiệm học tập được cá nhân hóa bằng AI
• Dự kiến ra mắt vào đầu năm 2024, khóa học đầu tiên là LLM101n (https://github.com/karpathy/LLM101n)
• Tập trung vào giáo dục kỹ thuật ở trình độ đại học