Nhập môn giải tích ngẫu nhiên

Giới thiệu về giải tích ngẫu nhiên

0. Giới thiệu

• Tài liệu này là phần giới thiệu ngắn gọn về giải tích ngẫu nhiên. Thay vì các hình thức phức tạp của lý thuyết xác suất, tài liệu tập trung vào trực giác vật lý và việc suy ra chuyển động Brown.
• Tài liệu tránh các hình thức kỹ thuật như không gian xác suất, lý thuyết độ đo, filtering, v.v., và chỉ xem xét những trường hợp được xác định rõ ràng.
• Mục tiêu là phổ biến cách giải tích ngẫu nhiên xuất hiện một cách tự nhiên trong thế giới vật lý.

Ứng dụng

• Chuyển động Brown và giải tích Itô là những ví dụ của toán học nâng cao được dùng để mô hình hóa thế giới thực.
• Vật lý: Einstein đã dùng chuyển động Brown để chứng minh sự tồn tại của nguyên tử.
• Tài chính: Định giá quyền chọn phụ thuộc vào phương trình vi phân ngẫu nhiên.
• Sinh học: Bước đi ngẫu nhiên mô hình hóa sự khuếch tán của loài hoặc sự phát hỏa của nơron.
• Trong machine learning cũng đang xuất hiện ngày càng nhiều ứng dụng.

1. Động cơ

• Tam giác Pascal được dùng để giải thích phân phối nhị thức.
• Nó mô hình hóa số lần thành công và thất bại trong các phép thử độc lập.
• Thế giới thực thường bao gồm các quá trình liên tục nên giải tích là cách tiếp cận tự nhiên hơn.

2. Từ bước rời rạc đến giới hạn liên tục

• Khám phá ý nghĩa toán học khi phân phối nhị thức được chuyển đổi sang dạng liên tục.
• Giải thích rằng bước đi ngẫu nhiên rời rạc hội tụ về phân phối chuẩn trong giới hạn liên tục.
• Theo định lý giới hạn trung tâm, tổng của nhiều biến ngẫu nhiên độc lập sẽ tiến gần đến phân phối chuẩn.

3. Định nghĩa chuyển động Brown (quá trình Wiener)

• Chuyển động Brown là liên tục, ngẫu nhiên và có phương sai tỷ lệ với thời gian.
• Mô hình toán học của chuyển động Brown có thể dự đoán được ở mức tổng thể nhưng hoàn toàn không thể dự đoán cục bộ.

4. Giải tích Itô

• Chuyển động Brown rất bất quy tắc nên không thể vi phân.
• Giải tích Itô phát triển một hệ thống mới để xử lý tính ngẫu nhiên của chuyển động Brown.
• Bổ đề Itô cung cấp quy tắc dây chuyền cho tính ngẫu nhiên.

5. Phương trình vi phân ngẫu nhiên

• Giải tích Itô cung cấp công cụ để xử lý phương trình vi phân ngẫu nhiên.
• Phương trình vi phân ngẫu nhiên mô hình hóa các hệ thống bằng cách kết hợp hành vi tất định với nhiễu ngẫu nhiên.

6. Giải tích Stratonovich

• Giải tích Stratonovich loại bỏ hạng đạo hàm bậc hai của giải tích Itô để giữ nguyên quy tắc dây chuyền chuẩn.
• Hữu ích cho việc đơn giản hóa các hệ vật lý hoặc phép tính.

Phụ lục

A.0. Đọc thêm

• Các tài liệu cung cấp phần giới thiệu trực quan về phương trình vi phân ngẫu nhiên và cách giải chúng.

A.1. Ký hiệu

• Cung cấp danh sách các ký hiệu được sử dụng trong tài liệu.

[GN⁺]

Ý kiến Hacker News

• Langevin Dynamics là một phương pháp sử dụng động lượng bị suy giảm của hệ thống và nhiễu được đưa vào động lượng. Nó có thể được dùng trong mô phỏng động lực học phân tử và lấy mẫu Bayesian MCMC

  • Khi Langevin Dynamics được nhắc đến trong bối cảnh AI, việc sử dụng động lượng thường bị lược bỏ. Điều này là vì trong AI, gradient descent có dùng động lượng đã được sử dụng rộng rãi
  • Thuật ngữ "ngẫu nhiên" ở đây có nghĩa là dùng một mẫu con của dữ liệu ở mỗi bước để xấp xỉ gradient. Có thể áp dụng đồng thời cả hai dạng ngẫu nhiên
  • Có một tài liệu giới thiệu hữu ích dành cho độc giả có kiến thức toán ở mức đại học nâng cao/cao học: liên kết

• Có một câu hỏi trong giải tích ngẫu nhiên là liệu có cần dùng máy tính để mô phỏng rất nhiều diễn tiến khả dĩ của sự kiện, hay nếu biết phân phối của dW thì có một phương pháp toán học thanh nhã hơn để giải ra đầu ra cuối cùng quan trọng và phân phối xác suất của nó. Bài viết này rất hay, và tạo cảm giác như lần đầu tiên bắt đầu hiểu được giải tích ngẫu nhiên

• Có một ví dụ vừa gặp gần đây

  • Giả sử đang chơi một "trò chơi". Rút một số ngẫu nhiên A từ 0 đến 1 (phân phối đều). Rút số thứ hai B từ cùng phân phối đó. Nếu A > B, thì rút lại B (giữ nguyên A). Trung bình cần bao nhiêu lần rút? (Nói cách khác, "chuỗi thắng" trung bình của A là bao nhiêu?)
  • Đáp án là vô hạn. Lý do là đôi khi A rất cao nên có thể cần hàng triệu lần rút

• Câu hỏi cho độc giả HN: đã xác định khoảng 50 vị trí (locus) bao gồm các khác biệt DNA trong gene của chuột có tác dụng điều chỉnh tỷ lệ tử vong. Phần lớn có hiệu ứng "bảo hiểm" phụ thuộc tuổi rất phức tạp. Muốn dự đoán tuổi tử vong

  • Liệu giải tích ngẫu nhiên có thể là một cách tiếp cận hữu ích cho dự báo bảo hiểm về tuổi thọ kỳ vọng của chuột không?

• Có câu hỏi dành cho những người trong lĩnh vực tài chính rằng trong số này, bao nhiêu thứ thực sự hữu ích trong công việc hằng ngày

• Có yêu cầu giúp diễn giải một câu

  • Có ý kiến thắc mắc "Itô calculare" trong câu "Chuyển động Brown và phép tính Itô là một ví dụ đáng chú ý của toán học khá cao cấp được áp dụng để mô hình hóa thế giới thực" có nghĩa là gì

• Chia sẻ cách hiểu về phép tính Itô

  • Quá trình ngẫu nhiên duy nhất mà ban đầu chúng ta hiểu được là chuyển động Brown
  • May mắn là ta có thể thay đổi tọa độ

• Có người nhớ lại việc từng học giải tích ngẫu nhiên

  • Có ghi chú lại để tìm hiểu vì sao trong thống kê thông thường, độ lệch chuẩn lại hơi khác với "biến thiên bậc hai". Có lẽ là do biến động ngẫu nhiên

• Thật đáng ngạc nhiên khi các mô hình khuếch tán đang nhanh chóng trở thành nguồn sức mạnh bí mật của việc tạo ảnh AI. Nhưng gốc rễ của chúng lại nằm sâu trong giải tích ngẫu nhiên

  • Ai mà ngờ được chuyển động Brown cuối cùng lại giúp tạo ra meme mèo chứ