Bài tập Pen and Paper trong học máy (2022)

Khoa học máy tính > Học máy

• Các bài tập học máy làm bằng bút và giấy

  • Tài liệu do Michael U. Gutmann biên soạn này là một bộ sưu tập các bài tập học máy chủ yếu có thể giải bằng bút và giấy.
  • Các chủ đề được đề cập bao gồm đại số tuyến tính, tối ưu hóa, mô hình đồ thị có hướng, mô hình đồ thị vô hướng, năng lực biểu đạt của mô hình đồ thị, factor graph và message passing, suy luận cho mô hình Markov ẩn, học dựa trên mô hình (bao gồm ICA và các mô hình chưa chuẩn hóa), lấy mẫu và tích phân Monte Carlo, cùng suy luận biến phân.

• Thông tin khác

  • Có một trang GitHub liên quan.
  • Tài liệu này đã được gửi lên arXiv và thuộc các lĩnh vực machine learning (cs.LG) và statistical machine learning (stat.ML).
  • Định danh arXiv là arXiv:2206.13446 và DOI là https://doi.org/10.48550/arXiv.2206.13446.

[GN⁺]

Ý kiến trên Hacker News

• Trông rất hay, nhưng một trong những điều gây khó chịu nhất khi học machine learning là bạn có thể đi rất sâu vào lý thuyết nhưng lại không thấy nó kết nối với thực tế như thế nào. Ví dụ như chọn số neuron trong mỗi layer thế nào, cần bao nhiêu layer, hàm kích hoạt là gì, nên dùng mạng nơ-ron hay dùng kỹ thuật khác, v.v. Nếu có ai giải thích được phần này thì tôi sẽ rất cảm kích

• Rất gọn gàng. Làm tôi nhớ đến các bài tập "AI By Hand" của Tom Yeh

• Thật thú vị khi các nhà toán học luôn cố nhét đại số tuyến tính và lý thuyết ma trận vào machine learning. Nếu không biết rõ, người ta có thể nghĩ rằng giới học thuật đã phát minh ra LLM và cần phải tham khảo ý kiến của họ. Thực tế là các học giả và nhà lý thuyết đã cản trở machine learning, cho rằng các kỹ thuật tính toán là thấp kém đối với họ, nên đã ép nhiều thế hệ nghiên cứu sinh đi làm chứng minh ký hiệu

• Trông gọn gàng đấy. Điểm chê duy nhất là lời giải được đưa ra ngay sau câu hỏi, nên bạn sẽ đọc đáp án trước khi tự mình suy nghĩ

• Thật sự rất gọn gàng. Tôi làm việc trong lĩnh vực machine learning nhưng vẫn thường cảm thấy mình như kẻ mạo danh khi nói đến nền tảng toán học, đặc biệt là đại số tuyến tính và các phép toán ma trận/tensor. Tôi muốn biết liệu có tài liệu hay nào về bộ bài tập tập trung vào các kỹ thuật nền tảng của deep learning không. Tôi học tốt nhất khi được tiếp cận từ góc nhìn của nhiều người dạy khác nhau và thực hành từng chút mỗi ngày

• Trong số những người đang xây dựng machine learning "hữu ích" hiện nay, có bao nhiêu người giải được các bài này? Và liệu họ có cần phải giải được không?

• Tài liệu đẹp, lời giải đầy đủ, cảm ơn vì đã chia sẻ. Nếu có các bài tập bút giấy như thế này cho những chủ đề khác thì tôi cũng rất quan tâm

• arXiv chẳng phải là nơi dành cho các bài báo cấp độ nghiên cứu sao? Tôi khá ngạc nhiên khi tài liệu này lại được host ở đó

• Đã được thảo luận vào thời điểm đó: Bài tập bút giấy về machine learning (2021) - June 2022 (55 bình luận)