52 điểm bởi xguru 2024-05-21 | 4 bình luận | Chia sẻ qua WhatsApp
  • Đồng sáng lập kiêm CSO Thomas Wolf học chuyên ngành vật lý & luật
  • Đây là danh sách sách anh ấy đã đọc khi bước vào lĩnh vực NLP/AI/ML trong giai đoạn 2016~17
    • Tức là cần lưu ý đây là trước cuộc cách mạng ChatGPT/Transformer/Diffusion
  • Cuốn "Deep Learning (học sâu)" là tài liệu tốt để có cái nhìn tổng quan nhanh về các công cụ hiện nay
  • "Artificial Intelligence: A Modern Approach (Trí tuệ nhân tạo: cách tiếp cận hiện đại, ấn bản 4)" là tài liệu rất hay về mọi công cụ và phương pháp trước thời kỳ mạng nơ-ron
  • "Machine Learning: A Probabilistic Perspective (Học máy)" là tài liệu tuyệt vời để đào sâu hơn cách tiếp cận xác suất và làm quen tốt với các công cụ Bayes
  • "Information Theory, Inference and Learning Algorithms" là một viên ngọc nhỏ giải thích xác suất và lý thuyết thông tin rõ ràng đến mức khó tin
  • "The Book of Why: The New Science of Cause and Effect" là phần nhập môn tốt về quan hệ nhân quả
  • "Reinforcement Learning: An Introduction (Học tăng cường vững chắc)" là tài liệu tuyệt vời để có phần giới thiệu nhập môn về học tăng cường
  • Ba tài liệu xuất sắc về xử lý ngôn ngữ tự nhiên cũng rất đáng chú ý
  • Anh ấy cũng bổ sung bằng một vài khóa học online
  • Nếu gia nhập lĩnh vực này sau cuộc cách mạng của Transformer và huấn luyện quy mô lớn, có lẽ bạn sẽ muốn đi theo con đường khác
    • Một vài lời khuyên cho năm 2024:
      • Hãy đọc cuốn sách của chúng tôi về NLP và Transformer, Natural Language Processing with Transformers. Dù ra đời trước ChatGPT nhưng vẫn rất phù hợp, và phần cuối còn đề cập đến cả việc huấn luyện LLM
      • Hãy học một vài lớp online về deep learning từ những người nổi tiếng trong lĩnh vực
      • Bạn vẫn có thể đọc vài cuốn trong danh sách trên để bồi dưỡng kiến thức nền tảng chung; đặc biệt tôi vẫn nghĩ "Information Theory, Inference and Learning Algorithms" là một viên ngọc
      • Hãy tham gia Hugging Face để học thông qua thực hành :)

4 bình luận

 
ninebow 2024-05-22

Tên nghe khá quen nên tôi tìm lại thì hóa ra đã từng xem video về xu hướng phát triển mô hình LLM được công bố vào khoảng cuối tháng 3. (Tôi vẫn chưa xem hết nữa hu hu)

Đó là video YouTube có tiêu đề 'A Little guide to building Large Language Models in 2024', nói về nhiều khía cạnh từ chuẩn bị dữ liệu cho phát triển LLM đến các phương pháp huấn luyện/đánh giá.

 
nuthatch 2024-05-21

<Học sâu> - Ian Goodfellow, Yoshua Bengio, Aaron Courville http://aladin.kr/p/OLwph

<Trí tuệ nhân tạo 1~2 - trọn bộ 2 quyển> - Stuart Russell, Peter Norvig http://aladin.kr/p/g4yZY

<Machine Learning máy học> - Kevin Murphy http://aladin.kr/p/RGGL8

<Information Theory, Inference and Learning Algorithms (Hardcover)> - David MacKay http://aladin.kr/p/LFEp0

<The Book of Why: The New Science of Cause and Effect (Paperback)> - Dana Mackenzie, Judea Pearl http://aladin.kr/p/cLywB

<Học tăng cường vững chắc> - Richard Sutton, Andrew Barto http://aladin.kr/p/3NQoU

Natural Language Processing with Representation Learning - Kyunghyun Cho
https://github.com/nyu-dl/NLP_DL_Lecture_Note/…

<Neural Network Methods in Natural Language Processing (Paperback)> - Yoav Goldberg http://aladin.kr/p/non6R

<Giáo trình chuẩn về xử lý ngôn ngữ tự nhiên> - Jacob Eisenstein http://aladin.kr/p/rPoLB

 
ninebow 2024-05-22

Cảm ơn bạn đã tổng hợp!!
Mình cũng đã mang theo danh sách bạn tổng hợp khi chia sẻ lại bài viết, nếu bạn không muốn thì mình sẽ xóa đi. 🙇‍♂️

https://discuss.pytorch.kr/t/gn-huggingface-ai-txt/4439/2

 
nottiger 2024-05-22

Cảm ơn hu hu