- Khóa học phát triển mạng nơ-ron do Andrej Karpathy, cựu lãnh đạo AI của Tesla, xây dựng
- Bắt đầu từ những kiến thức cơ bản về lan truyền ngược (backpropagation) cho đến việc phát triển các mạng nơ-ron sâu hiện đại như GPT
- Mô hình ngôn ngữ rất phù hợp để học deep learning. Về sau, ngay cả khi mở rộng sang những lĩnh vực như thị giác máy tính, phần lớn nội dung đã học vẫn có thể áp dụng ngay
Syllabus
- (2h25m) Giới thiệu chi tiết về mạng nơ-ron và lan truyền ngược: xây dựng micrograd
- (1h57m) Giới thiệu chi tiết về mô hình ngôn ngữ: xây dựng makemore
- (1h15m) Xây dựng makemore Phần 2: MLP
- (1h55m) Xây dựng makemore Phần 3: Kích hoạt & Gradient, BatchNorm
- (1h55m) Xây dựng makemore Phần 4: Trở thành ninja Backprop
- (56m) Xây dựng makemore Phần 5: Xây dựng WaveNet
- (1h56m) Hãy cùng xây dựng GPT: từ đầu, bằng code, giải thích chi tiết.
2 bình luận
Vâng
Tuần trước tôi chỉ đăng link Let's build GPT - Hãy cùng tạo GPT từ con số 0 [video YouTube],
nhưng hóa ra đây chỉ là một phần của toàn bộ khóa học.