Sách về Deep Learning dựa trên vật lý
(physicsbaseddeeplearning.org)- Physics-based Deep Learning Book v0.3 là một cuốn sách số đề cập đồng thời mô phỏng vật lý và deep learning, giúp người đọc học cách kết hợp phân tích số và mạng nơ-ron thông qua các ví dụ có thể chạy được
- Trong GenAI edition, phần mô hình sinh được tăng cường, bao gồm denoising, flow-matching, autoregressive learning, ràng buộc tích hợp vật lý và graph network dựa trên diffusion
- Phạm vi học bắt đầu từ học có giám sát, rồi mở rộng sang ràng buộc loss theo vật lý, mô phỏng khả vi, cách tiếp cận diffusion, học tăng cường và lựa chọn kiến trúc mạng nơ-ron
- Các chương được giới thiệu trước đề cập đến những ví dụ gần với bài toán vật lý thực tế, như dự đoán dòng chảy quanh airfoil, học dựa trên residual của phương trình, inverse problem, và cách đưa simulator vào vòng lặp huấn luyện
- Mọi ví dụ mã đều xoay quanh Jupyter Notebook có thể chạy và chỉnh sửa trên trình duyệt, nên người đọc không chỉ đọc khái niệm mà còn có thể thử nghiệm ngay
Giáo trình deep learning cho mô phỏng vật lý
- Physics-based Deep Learning Book là một hướng dẫn tổng hợp theo kiểu thực hành về deep learning trong lĩnh vực mô phỏng vật lý
- Tài liệu này kết nối phần giải thích lý thuyết với Jupyter Notebook tương tác, cho phép chạy ngay và kiểm chứng từng khái niệm
- Các chủ đề chính được đề cập gồm
- học có giám sát truyền thống
- loss-constraints theo vật lý
- mô phỏng khả vi
- cách tiếp cận dựa trên diffusion cho AI sinh xác suất
- học tăng cường
- kiến trúc mạng nơ-ron nâng cao
- Điểm bổ sung chính của GenAI edition v0.3 là chương về mô hình sinh
- denoising
- flow-matching
- autoregressive learning
- physics-integrated constraints
- diffusion-based graph networks
- Một phần riêng về neural architectures được thiết kế cho mô phỏng vật lý cũng đã được thêm vào, và mọi ví dụ mã đều được cập nhật để sử dụng các framework mới nhất
Các chương sắp ra mắt và cách thực hành
- Các chương tiếp theo sẽ trình bày cách dùng diffusion modeling để dự đoán dòng chất lưu quanh airfoil
- Cách này cung cấp một surrogate model xác suất có thể thay thế và vượt trội hơn simulator hiện có
- Sách cũng bao gồm cách huấn luyện để mạng biểu diễn nghiệm bằng cách dùng phương trình mô hình làm residual
- Ràng buộc residual có thể được cải thiện bằng cách sử dụng mô phỏng khả vi
- Sách đề cập cách tương tác chặt chẽ hơn với toàn bộ simulator để giải inverse problem
- Cho thấy ví dụ vượt qua vấn đề hội tụ của các kỹ thuật học tăng cường tiêu chuẩn bằng cách đưa simulator vào vòng lặp huấn luyện
- Lựa chọn kiến trúc mạng phù hợp cũng là một chủ đề chính
- global interaction và local interaction
- continuous representation và discrete representation
- structured graph mesh và unstructured graph mesh
- Các cách tiếp cận PBDL được giới thiệu theo thứ tự mức độ tích hợp mô hình vật lý vào deep learning ngày càng tăng
- Đồng thời cũng trình bày ưu, nhược điểm và các kịch bản hữu ích của từng cách tiếp cận
- Các ví dụ mã xoay quanh Jupyter Notebook có thể chạy trực tiếp trên trình duyệt
- Có thể chạy và chỉnh sửa ví dụ trong Google Colab teaser notebook
- Cuốn sách được duy trì bởi Physics-based Simulation Group của TUM, đồng thời cung cấp bộ sưu tập liên kết tập hợp các bài báo nghiên cứu gần đây
1 bình luận
Ý kiến trên Hacker News
Trong bài trình bày tổng quan rất cô đọng vào tháng 10/2022, Chris Rackauckas đã giới thiệu Scientific Machine Learning với nhiều ví dụ trong các lĩnh vực như dịch tễ học, sóng hấp dẫn, dược động học và mô phỏng đại dương
Bài này cũng đề cập đến các thư viện Julia mã nguồn mở và độc quyền cho SciML nên lượng thông tin rất dày
https://www.youtube.com/watch?v=yHiyJQdWBY8
Có vẻ nên đổi tiêu đề mạnh tay. Đây không phải là sách về deep learning dựa trên vật lý
Nó gần hơn với một cuốn sách về cách tiếp cận deep learning cho các bài toán vật lý do nhóm nghiên cứu này phát triển, và đó là một điểm rất quan trọng
Hơn nữa, trên thực tế nó còn được dùng khá nhiều để quảng bá mạnh cho framework mô phỏng Phi-Flow của họ, nên khó có thể gọi đây là một cuốn sách mô tả chính xác toàn bộ lĩnh vực
Chris đã có nhiều đóng góp tốt trong mảng này, và gói phương trình vi phân Julia hỗ trợ vật lý hoặc Scientific ML cũng rất ấn tượng
https://www.stochasticlifestyle.com/the-essential-tools-of-s...
Tôi không tìm ra cách tải toàn bộ cuốn sách dưới dạng PDF. Nút tải xuống phía trên có vẻ chỉ cho tải từng trang riêng lẻ
Theo tôi biết thì nó được tạo bằng Jupyter Book, nhưng tôi cũng không tìm thấy thông tin liên quan trong tài liệu
[1] https://jupyterbook.org/en/stable/intro.html
Một số tài liệu bổ sung khá ổn gồm có các bài giảng toán + ML trên YouTube của CRUNCH group, playlist Physics Informed Machine Learning của Steve Brunton, cuốn sách “Data Driven Science and Engineering” của Steve Brunton, và khóa Deep Learning in Scientific Computation của ETH Zurich
YouTube của CRUNCH group: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
Playlist của Steve Brunton: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
Bài giảng của ETH Zurich: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...
Cũng có thảo luận trước đó từ năm 2021
https://news.ycombinator.com/item?id=28500577