AI hoạt hình

• Animated AI là một dự án trình bày các khái niệm mạng nơ-ron bằng hoạt hình và video giáo dục, giúp dễ theo dõi các quá trình tính toán vốn khó hiểu bằng trực quan
• Tài liệu cốt lõi tập trung vào thuật toán cơ bản của Convolution, Padding, Stride, Groups, Depthwise và Depthwise-separable Convolution
• Tài liệu Pixel Shuffle minh họa luồng chuyển đổi độ phân giải bằng các ví dụ chia theo kích thước khối 2x2 và 3x3
• Mỗi chủ đề được liên kết với video YouTube đi kèm có thể xem cùng với tư liệu hoạt hình trên trang
• Trang dự án giới thiệu Patreon và kênh YouTube, còn mã nguồn được công bố theo MIT License

---

Hoạt hình và video về mạng nơ-ron

• Animated AI tạo hoạt hình và video giáo dục để giải thích mạng nơ-ron
• Cung cấp kèm các liên kết chính thức để ủng hộ và xem video
  • Patreon
  • YouTube channel

Tài liệu học Convolution

• Fundamental Algorithm of Convolution in Neural Networks là video YouTube đi kèm về thuật toán cơ bản của Convolution
• Convolution Padding - Neural Networks cho thấy sự khác nhau của Padding
  • No Padding, tức “Valid”
  • Padding [1,1,1,1], tức “Same”
• Stride - Convolution in Neural Networks đề cập đến thiết lập Stride và các kết hợp với Padding
  • Stride 1 và Stride 2
  • Kết hợp No Padding “Valid” và Padding [1,1,1,1] “Same”
• Groups, Depthwise, and Depthwise-Separable Convolution (Neural Networks) là tài liệu để so sánh Groups và các biến thể Convolution kiểu Depthwise
  • 1 Group
  • 2 Groups
  • Depthwise, 8 Groups
  • Depthwise-separable, áp dụng pointwise sau 8 Groups

Ví dụ Pixel Shuffle

• Pixel Shuffle - Changing Resolution with Style là video YouTube đi kèm về Pixel Shuffle
• Với kích thước khối 2x2, có thể xem các ví dụ về Shuffle, Unshuffle và vòng lặp lặp lại
  • 2x2 Pixel Shuffle
  • 2x2 Pixel Unshuffle
  • 2x2 Pixel Shuffle/Unshuffle Loop
• Với kích thước khối 3x3, cùng luồng cũng được cung cấp dưới dạng ví dụ riêng
  • 3x3 Pixel Shuffle
  • 3x3 Pixel Unshuffle
  • 3x3 Pixel Shuffle/Unshuffle Loop

Giấy phép

• Mã nguồn dự án được cấp phép theo MIT License

[GN⁺]

Ý kiến trên Hacker News

• Thiết kế đẹp, và cũng có công cụ trực quan hóa CNN từ nghiên cứu của Georgia Tech
  https://poloclub.github.io/cnn-explainer/
  Bộ sưu tập công cụ thiết kế/trực quan hóa kiến trúc mạng nơ-ron: https://github.com/ashishpatel26/Tools-to-Design-or-Visualiz...
  Cũng có TensorFlow Playground: https://playground.tensorflow.org/

  • ManimML: https://github.com/helblazer811/ManimML
    “But what is a convolution?”: https://youtu.be/KuXjwB4LzSA?si=qwnZMQYJhDxraGc8 https://github.com/3b1b/videos/tree/master/_2022/convolution... https://github.com/3b1b/videos/tree/master/_2023/convolution...
    “Convolution Is Fancy Multiplication”: https://news.ycombinator.com/item?id=25190770#25194658
    Các liên kết liên quan đến Manim, Blender, ipyblender, PhysX, o3de, FEM, CFD trong https://news.ycombinator.com/item?id=37953886: https://github.com/ManimCommunity/manim/issues/3362
    Tổ hợp Manim + O3DE có vẻ khá hữu ích cho việc học, và cũng có mã của video thuật toán khối Rubik được làm bằng Manim: https://github.com/polylog-cs/rubiks-cube-video/blob/main/co...
    Tài liệu API Manim: https://docs.manim.community/en/stable/reference.html
  • Widget “Understanding Hyperparameters” trong bài của poloclub đặc biệt hay, và các công cụ được làm theo kiểu tương tự cũng có thể hữu ích
    https://static.laszlokorte.de/conv2d/

• Dùng màu thật sự rất tốt, ban đầu tôi còn tưởng đây là animation mẫu do AI tạo
  Vì thực ra là tự làm thủ công nên công sức bỏ vào càng thấy rõ hơn, và các video trên kênh YouTube cũng đáng xem

  • Để tiện tham khảo, tôi để lại link kênh: https://www.youtube.com/@animatedai/videos

• Dự án tốt, nhưng mong là đừng tải ảnh GIF hơn 100MB mà không cảnh báo

  • Với một trang xử lý animation thì media nặng hơn trang thông thường là điều đương nhiên, và các website phổ biến ngày nay cũng khá lớn
    NYT là 11MB, Washington Post là 22MB, chỉ cần cuộn Reddit một lần cũng khoảng 40MB
    Tôi nghĩ dung lượng cỡ 100MB trên một trang nói là sẽ hiển thị animation chưa đến mức nhất thiết phải có cảnh báo riêng từ trước
  • Có lẽ chỉ cần gắn tag “56k killer” như ngày xưa là được
  • Tôi là người làm site, cảm ơn vì đã chỉ ra. Số lượng animation tăng dần theo thời gian và tôi không nhận ra tổng dung lượng đã lớn đến vậy
    Tôi muốn biết bạn mong muốn cách hoạt động như thế nào. Ví dụ có thể là ảnh tĩnh chỉ phát khi click/chạm, các phần bị ẩn cho đến khi mở ra, hoặc một cách khác
  • Chính xác là 134MB

• Làm rất tốt, gợi nhớ đến những video giải thích bằng animation 3D tuyệt vời như thế này: https://www.youtube.com/@animagraffs

• Trước đây tôi từng tự làm animation bằng Manim; tuy không bóng bẩy bằng nhưng có thể hữu ích
  https://www.jerpint.io/blog/cnn-cheatsheet/

• Tôi cũng muốn xem lớp attention được animate theo kiểu này. Hiện tôi gần như hiểu mà vẫn chưa hẳn hiểu

  • Tôi vẫn chưa tìm được “một hình trực quan hóa duy nhất” giúp hiểu khái niệm attention của Transformer dễ như phần trực quan hóa CNN này
    Nếu có trang nào từng giúp bạn có khoảnh khắc eureka để hiểu hoàn toàn lớp attention thì mong được chia sẻ
  • Tôi là người làm site, và có tin tốt. Hiện tôi đang làm animation và video giải thích về Transformer và self-attention
    Cách tốt nhất để nhận thông báo có lẽ là đăng ký kênh YouTube và bật biểu tượng thông báo
  • Có vẻ ý là muốn xem animation về attention. Trang này trình bày tích chập, không phải attention

• Nếu muốn xem bài viết tương tác về các thuật toán AI cụ thể, Amazon mlu-explain cũng đáng để xem
  https://mlu-explain.github.io/

• Thật sự hay. Sẽ rất tuyệt nếu có thêm phần RNN hoặc Transformer, và tôi cũng sẵn sàng trả tiền để xem

• Tôi nhiều lần ước gì tài liệu pandas cũng có những animation như thế này. Pipeline groupby / split-apply-combine có vẻ có thể được giải thích chỉ bằng một clip 10 giây