Nhập môn giải tích ngẫu nhiên
(jiha-kim.github.io)- Giải tích ngẫu nhiên tiếp cận các hệ thống thực tế bất quy tắc như chuyển động Brown bằng cách ưu tiên trực giác vật lý và quá trình suy ra hơn là chủ nghĩa hình thức
- Phân phối nhị thức rời rạc và random walk đối xứng, khi tăng số phép thử và chuẩn hóa thang đo, sẽ dẫn tới phân phối chuẩn và quá trình ngẫu nhiên liên tục thông qua định lý giới hạn trung tâm
- Chuyển động Brown (W(t)) có các gia số độc lập và (W(t)\sim N(0,t)), quỹ đạo thì liên tục nhưng gần như chắc chắn không khả vi tại mọi điểm
- Giải tích Itô có thêm hạng bậc hai vào quy tắc dây chuyền thông thường do các quy tắc (dW=\sqrt{dt}N(0,1)), ((dW)^2\approx dt)
- Phương trình vi phân ngẫu nhiên mô hình hóa đồng thời xu hướng và tính ngẫu nhiên bằng drift và diffusion, còn cách tiếp cận Stratonovich giữ nguyên quy tắc dây chuyền thông thường nhờ đánh giá tại trung điểm, nên được dùng trong vật lý, điều khiển, khuếch tán sinh học và mô phỏng số
Những bài toán mà giải tích ngẫu nhiên xử lý
- Giải tích ngẫu nhiên là công cụ dựa trên chuyển động Brown và giải tích Itô để xử lý các hệ thống thực tế bất quy tắc thành những mô hình có thể tính toán được
- Phạm vi ứng dụng trải rộng từ vật lý, tài chính, sinh học đến machine learning
- Vật lý: Einstein dùng việc dao động của chuyển động Brown khớp với va chạm phân tử để chứng minh sự tồn tại của nguyên tử
- Tài chính: các mô hình định giá quyền chọn như phương trình Black-Scholes phụ thuộc vào phương trình vi phân ngẫu nhiên có dạng (dS=\mu Sdt+\sigma SdW)
- Sinh học: random walk mô hình hóa sự khuếch tán của loài hoặc sự phát xung của neuron
- Machine learning: Song et al. (2021) mô hình hóa sự tiến hóa của nhiễu theo thời gian bằng phương trình vi phân ngẫu nhiên dựa trên giải tích Itô, rồi dùng nó theo chiều ngược lại để tạo mẫu mới
Từ phân phối nhị thức đến quá trình ngẫu nhiên liên tục
- Tam giác Pascal đếm số đường đi sang trái hoặc sang phải ở mỗi bước, và số cách đi tới vị trí thứ (k) ở hàng thứ (n) là (\binom{n}{k}=\frac{n!}{k!(n-k)!})
- Xác suất thành công (k) lần và thất bại (n-k) lần trong các phép thử độc lập là như sau
[ P(k \text{ wins in } n \text{ trials})=\binom{n}{k}p^kq^{n-k} ]
- Giả định độc lập là một điều kiện mạnh, nên trong thực tế có yếu tố tâm lý hoặc động lượng như chuỗi thắng trong thể thao hay giá cổ phiếu thì mô hình có thể trở nên kém chính xác
- Những hiện tượng biến đổi liên tục như chuyển động rơi, khuếch tán khí, biến động giá cổ phiếu hay va chạm phân tử trong chất lỏng khó được xử lý chỉ bằng điểm và tổng, mà cần khoảng và tích phân
Random walk và định lý giới hạn trung tâm
- Với random walk đối xứng có (p=0.5), độ dời của một bước được đặt như sau
[ X(t)= \begin{cases} 1 & \text{with probability } \frac{1}{2}\ -1 & \text{with probability } \frac{1}{2} \end{cases} ]
- Mỗi (X(t)) có kỳ vọng 0, phương sai 1, và giả định rằng các bước ở những thời điểm khác nhau là độc lập
- Độ dời tổng thể được biểu diễn thành tổng các biến ngẫu nhiên độc lập
[ S(n)=X(1)+X(2)+\dots+X(n)=\sum_{t=1}^{n}X(t) ]
- Theo định lý giới hạn trung tâm, tổng của các biến ngẫu nhiên độc lập cùng phân phối (X_1,\dots,X_n) sẽ tiến gần tới phân phối chuẩn khi (n\to\infty)
[ X_1+\dots+X_n\sim N(n\mu,n\sigma^2) ]
- Trong random walk này, ta có quan hệ sau
[ S(n)\sim N(0,n) ]
[ \lim_{n\to\infty}\frac{1}{\sqrt{n}}S(n)=N(0,1) ]
- Vì vậy, “phân phối nhị thức liên tục” sẽ dẫn tới phân phối chuẩn
Định nghĩa chuyển động Brown
- Chuyển động của các hạt nhỏ hoặc hạt phấn hoa trên mặt nước mà Robert Brown quan sát vào thập niên 1820 là cực kỳ bất quy tắc, và ở quy mô nhỏ, chuyển động thực do lực bên ngoài gây ra thể hiện nhạy tới mức lấn át chuyển động trước đó
- Trong mô hình toán học được đơn giản hóa, các sự kiện ở những thời điểm khác nhau được xem là độc lập, và do tính đối xứng vị trí nên vị trí trung bình của hạt tại thời điểm (t) được xem là ở gần gốc tọa độ
- Một random walk liên tục cần có các tính chất sau
- Điểm bắt đầu được đặt là 0 cho thuận tiện về mặt toán học
- Không có thiên lệch về hướng nên độ dời kỳ vọng của từng bước và độ dời kỳ vọng tổng thể đều bằng 0
- Độ dời trên các khoảng thời gian khác nhau là độc lập
- Quỹ đạo là liên tục, không có bước nhảy hay khoảng đứt
- Phân phối vị trí tại một thời điểm xác định phải là phân phối chuẩn
- Chuyển động Brown thường được ký hiệu là (B_t), quá trình Wiener là (W_t), và ở đây dùng (W(t)) để nhấn mạnh sự phụ thuộc vào thời gian
- Các tính chất chính như sau
[ W(0)=0 \quad \text{almost surely} ]
[ W(t)\sim N(0,t) ]
[ \Delta W(s,t)\sim N(0,t-s) ]
- Các gia số trên những khoảng khác nhau (\Delta W(t_1,t_2)) và (\Delta W(t_2,t_3)) là độc lập khi (t_1<t_2\le t_3)
- Từ đây suy ra (E[W(t)]=0), (Var(W(t))=t)
- Quỹ đạo mẫu (t\mapsto W(t)) gần như chắc chắn liên tục Hölder đều với mọi số mũ (\gamma<\frac12), nhưng không Hölder liên tục tại bất kỳ điểm nào khi (\gamma\ge\frac12), và đặc biệt là không khả vi ở bất kỳ đâu
Các quy tắc cốt lõi của giải tích Itô
- Chuyển động Brown là liên tục nhưng quá bất quy tắc nên không thể có đạo hàm theo nghĩa thông thường
- Trên một khoảng nhỏ (dt), ta có
[ \Delta W(t,t+dt)\sim N(0,dt)=\sqrt{dt}N(0,1) ]
[ \frac{\Delta W(t,t+dt)}{dt}=\frac{1}{\sqrt{dt}}N(0,1) ]
- Khi (dt\to0), (\frac{1}{\sqrt{dt}}) tăng tới vô hạn nên không hội tụ về một đạo hàm hữu hạn
- Kiyosi Itô đã xây dựng giải tích Itô vào thập niên 1940 để phù hợp với tính ngẫu nhiên của chuyển động Brown, và đây trở thành nền tảng của giải tích ngẫu nhiên
-
(dW) và ((dW)^2)
- Biến thiên nhỏ của chuyển động Brown được định nghĩa như sau
- [
- dW:=W(t+dt)-W(t)
- ]
- [
- dW=\sqrt{dt}N(0,1)
- ]
- (dW) là ngẫu nhiên, khác với (dx) mang tính tất định trong giải tích thông thường; độ lớn của nó tỉ lệ với (\sqrt{dt}) và dấu của nó phụ thuộc vào phân phối chuẩn tắc
- Kỳ vọng và phương sai như sau
- [
- E[dW]=0
- ]
- [
- Var(dW)=E[(dW)^2]=dt
- ]
- Kỳ vọng của ((dW)^2) là (dt), phương sai là (2dt^2); khi (dt\to0), độ biến động trở nên có thể bỏ qua nên trong giải tích Itô ta xử lý ((dW)^2\approx dt)
- Trong giải tích thông thường, ((dx)^2) quá nhỏ nên biến mất, nhưng trong giải tích ngẫu nhiên ((dW)^2) cùng thang với (dt), vì vậy quy tắc tính toán thay đổi
-
Tích phân Itô
- Cũng như tích phân thông thường (\int_a^b f(x)dx) được định nghĩa là giới hạn của tổng Riemann, đối với chuyển động Brown ta xét (\int_0^t f(s)dW(s))
- Với phân hoạch (s_0,\dots,s_n), ta xấp xỉ bằng tổng sau
- [
- \int_0^t f(s)dW(s)\approx \sum_{i=0}^{n-1}f(s_i)\Delta W(s_i,s_{i+1})
- ]
- Kết quả của tích phân này là một biến ngẫu nhiên phản ánh tính ngẫu nhiên của (W(t))
- Nếu đánh giá (f(s_i)) tại điểm đầu bên trái, ta chỉ dùng thông tin đến thời điểm (s_i), nên có tính chất non-anticipating là không nhìn vào tương lai
-
Bổ đề Itô
- Quy tắc dây chuyền trong giải tích thông thường đối với (f(t,W(t))) có dạng sau
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW
- ]
- Do bản chất gồ ghề của chuyển động Brown, hạng bậc hai trong khai triển Taylor không biến mất
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}(dW)^2+\text{smaller terms}
- ]
- (dt^2) và (dt,dW) biến mất nhưng ((dW)^2\approx dt) thì còn lại
- Vì vậy, bổ đề Itô có dạng
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}dt
- ]
- Hạng bổ sung (\frac12\frac{\partial^2 f}{\partial W^2}dt) xuất hiện do hiệu ứng bậc hai của chuyển động Brown
- Với trường hợp (f(W)=W^2), phép tính diễn ra như sau
- [
- d(W^2)=2W,dW+dt
- ]
- [
- W(t)^2=\int_0^t2W(s)dW(s)+t
- ]
- Hạng (t) khớp với (E[W(t)^2]=t), còn hạng tích phân là thành phần ngẫu nhiên có kỳ vọng bằng 0
Mô hình hóa bằng phương trình vi phân ngẫu nhiên
- Vì giải tích Itô cung cấp tích phân và quy tắc dây chuyền cho chuyển động Brown, nên có thể mô hình hóa các hệ thống vừa có tính ngẫu nhiên vừa có xu hướng bằng phương trình vi phân ngẫu nhiên (SDE)
- Một SDE tổng quát có dạng sau
[ dX(t)=a(t,X(t))dt+b(t,X(t))dW(t) ]
- Ý nghĩa của từng hạng như sau
- (X(t)): đại lượng biến thiên theo thời gian
- (a(t,X(t))dt): drift, phần có tính hệ thống
- (b(t,X(t))dW(t)): diffusion, nhiễu loạn ngẫu nhiên đến từ chuyển động Brown
- Nghiệm của SDE không phải là một đường cong cố định mà là một quỹ đạo ngẫu nhiên khác nhau ở mỗi lần chạy, và có thể phân tích các mẫu hình thống kê của nó
-
Bổ đề Itô dạng tổng quát
- Với (dX=b(t,X(t))dt+\sigma(t,X(t))dW), bổ đề Itô của (f(t,X(t))) là
- [
- df=(f_t+bf_X+\frac{1}{2}\sigma^2f_{XX})dt+\sigma f_XdW
- ]
- Nó được suy ra bằng cách xét (dX=O(dW)) và cả (dX^2=O(dW^2))
-
drift và diffusion
- Drift (a(t,X)) xác định hướng trung bình, còn diffusion (b(t,X)) xác định cường độ dao động ngẫu nhiên
- Nếu (b=0) thì trở thành phương trình vi phân thông thường, còn nếu (a=0) thì là chuyển động Brown đã được scale
- Trong trường hợp đơn giản, ta có thể viết
- [
- dX(t)=\mu dt+\sigma dW(t)
- ]
- Nếu (X(0)=0) thì nghiệm là
- [
- X(t)=\mu t+\sigma W(t)
- ]
- Vì (W(t)\sim N(0,t)), nên phân phối là
- [
- X(t)\sim N(\mu t,\sigma^2t)
- ]
- Đây là một quá trình drift tuyến tính theo thời gian và nhiễu lan rộng, là mô hình cơ sở cho những đối tượng như cổ phiếu có tăng trưởng đều đặn và biến động
-
Chuyển động Brown hình học
- Với các hệ thống mà lượng thay đổi tỉ lệ với độ lớn hiện tại, dùng chuyển động Brown hình học (GBM)
- [
- dS(t)=\mu S(t)dt+\sigma S(t)dW(t)
- ]
- (\mu S(t)) là drift tỉ lệ, (\sigma S(t)) là nhiễu tỉ lệ
- (\frac{dS}{S}=\mu dt+\sigma dW) là biến thiên theo tỉ lệ có cả xu hướng lẫn tính ngẫu nhiên
- Đặt (f=\ln S) và áp dụng bổ đề Itô thì được
- [
- d(\ln S)=\left(\mu-\frac12\sigma^2\right)dt+\sigma dW
- ]
- Tích phân sẽ cho nghiệm sau
- [
- S(t)=S(0)\exp\left(\left(\mu-\frac12\sigma^2\right)t+\sigma W(t)\right)
- ]
- Lý do drift được điều chỉnh bởi (-\frac12\sigma^2) là hiệu ứng bậc hai của nhiễu, và dạng này là nền tảng cho mô hình Black-Scholes trong tài chính
- Nghiệm giải tích như của GBM là ngoại lệ; đa số SDE cần mô phỏng số hoặc phân tích thống kê thông qua các phương trình như Fokker-Planck
Giải tích Stratonovich
- Bổ đề Itô có chứa hạng đạo hàm bậc hai nên đôi khi việc tính toán có thể trở nên phiền phức
- Giải tích Stratonovich thay đổi điểm đánh giá của tích phân ngẫu nhiên để giữ nguyên quy tắc dây chuyền của giải tích thông thường
- Tích phân Itô dùng điểm đầu bên trái của mỗi khoảng, còn tích phân Stratonovich dùng quy tắc đánh giá tại trung điểm
- Điểm đánh giá tổng quát có thể viết như sau
[ \int_0^T f(X(t))\diamond dW
\lim_{n\to\infty}\sum_{i=0}^{n-1} f(X(t_i)+\lambda\Delta X(t_i,t_{i+1})) \Delta W(t_i,t_{i+1}) ]
- Trong giải tích tất định, (O(dX^2)\to0) nên việc chọn điểm đánh giá không quan trọng, nhưng trong giải tích ngẫu nhiên, (O(dW^2)\to O(dt)) nên điểm đánh giá là yếu tố quan trọng
- Để bảo toàn quy tắc dây chuyền (df=f_X\circ dX), việc so sánh khai triển Taylor đòi hỏi (\lambda=\frac12)
- Vì vậy tích phân Stratonovich được định nghĩa như sau
[ \int_0^T f(X(t))\circ dW
\lim_{n\to\infty}\sum_{i=0}^{n-1} f\left(\frac{X(t_i)+X(t_{i+1})}{2}\right) \Delta W(t_i,t_{i+1}) ]
-
Chuyển đổi giữa Itô và Stratonovich
- Giả sử cùng một quá trình ngẫu nhiên được cho bởi hai dạng sau
- [
- dX=adt+bdW=\tilde a dt+b\circ dW
- ]
- Hạng drift có quan hệ sau
- [
- a=\tilde a+\frac12 b_Xb
- ]
- Hệ số khuếch tán (b) là như nhau, nhưng giữa biểu diễn Itô và Stratonovich, hàm drift sẽ khác nhau
Những ngữ cảnh dùng cách tiếp cận Stratonovich
- Giải tích Stratonovich tạo ra một tích phân ngẫu nhiên khác với cách dùng điểm đầu trái của Itô nhờ quy tắc đánh giá tại trung điểm, và phù hợp với một số hệ vật lý nhất định hoặc để đơn giản hóa tính toán
- Trong nhiễu nhân của vật lý, dao động tắt dần với nhiễu phụ thuộc trạng thái có thể được viết như sau
[ dX=-kXdt+\sigma X\circ dW ]
- Áp dụng quy tắc dây chuyền Stratonovich cho (f(X)=\ln X) thì được
[ d(\ln X)=-kdt+\sigma\circ dW ]
[ X(t)=X(0)e^{-kt+\sigma W(t)} ]
- Định lý Wong-Zakai cho biết khi đưa nhiễu thực tế hơi trơn về giới hạn white noise thì sẽ xuất hiện SDE Stratonovich
- Trong điều khiển ngẫu nhiên, với các hệ như (dX=(aX+u)dt+\sigma X\circ dW), quy tắc Stratonovich phù hợp với trực giác điều khiển cổ điển nên có thể đơn giản hóa việc thiết kế đầu vào điều khiển (u(t))
- Trong khuếch tán sinh học, với các mô hình có nhiễu phụ thuộc vị trí như (\sigma(X)=\sqrt{2D(1+kX^2)}), Stratonovich phản ánh các định luật bảo toàn vật lý
- Trong mô phỏng số, Stratonovich phù hợp với phương pháp trung điểm nên có thể được dùng để giảm các tạo tác số trong những mô hình như động học tốc độ phản ứng hóa học
- Tiêu chí lựa chọn thay đổi theo ngữ cảnh
- Stratonovich phù hợp với các hệ mà nhiễu gắn với tính liên tục vật lý hoặc tính đối xứng
- Itô được dùng áp đảo trong tài chính nhờ tính chất non-anticipating, tức không sử dụng thông tin tương lai
- Có thể chuyển đổi qua lại giữa hai biểu diễn bằng công thức (a=\tilde a+\frac12bb_X)
1 bình luận
Ý kiến trên Hacker News
Với độc giả có kiến thức toán học ở mức đại học nâng cao/cao học, tài liệu nhập môn giải tích ngẫu nhiên này rất hữu ích: https://almostsuremath.com/stochastic-calculus/
Một giáo trình truyền cảm hứng khác có nhiều phần trùng với các chủ đề liên quan là cuốn này: https://www.amazon.com/Stochastic-Integration-Differential-E...
Tôi tò mò không biết giải tích ngẫu nhiên có phải là lĩnh vực cần máy tính để mô phỏng nhiều diễn tiến sự kiện có thể xảy ra, hay khi biết phân phối của dW thì có thể giải đầu ra cuối cùng quan trọng và phân phối xác suất theo một cách toán học thanh nhã hơn
Bài viết này rất xuất sắc; trước đây tôi cũng từng thấy giải tích ngẫu nhiên, nhưng lần này là lần đầu tôi có cảm giác mình thật sự bắt đầu hiểu
Nếu bài toán phức tạp, hoặc phân phối phức tạp, hoặc cả hai, thì cần phương pháp số. Điều đó không nhất thiết có nghĩa là phải chạy nhiều mô phỏng kiểu Monte Carlo, dù cách đó cũng hợp lý nhưng tốn kém
Những câu hỏi trực tiếp hơn về một xác suất cụ thể có thể được trả lời mà không cần Monte Carlo. Phương trình Fokker-Planck là một phương trình đạo hàm riêng có thể được giải bằng nhiều cách không phải Monte Carlo, và các quasi-potential cùng hàm committor xuất hiện trong mô phỏng sự kiện hiếm cũng có thể được tính “trực tiếp”. Khó khăn cốt lõi là khi áp dụng các phương pháp số tiêu chuẩn cho những đối tượng này, ta sẽ gặp lời nguyền số chiều. Cách tính tốt các đối tượng đó trong không gian nhiều chiều, thậm chí vô hạn chiều, là một hướng nghiên cứu rất nóng của toán ứng dụng. Cá nhân tôi cho rằng nếu toán học không khớp gọn gàng với các ứng dụng vật lý thực tế thì những thứ này nhìn chung gần như là lãng phí thời gian
Các nhà vật lý gọi đó là phương trình Fokker-Planck, còn các nhà toán học gọi là Kolmogorov forward equation. Ngoại trừ một vài trường hợp đặc biệt, không có nghiệm giải tích chính xác và cần nghiệm số. Tuy nhiên ở số chiều cao, chi phí giải phương trình đạo hàm riêng rất lớn, nên giải SDE rồi lấy mẫu Monte Carlo thường rẻ hơn
Cũng có thể có các kiểu câu hỏi khác, chẳng hạn nghiệm khi một sự kiện ngẫu nhiên nào đó xảy ra; lập luận tương tự vẫn áp dụng. Ngoài ra, giải tích ngẫu nhiên rất hữu ích để xử lý SDE, nhưng nếu bạn quan tâm đến các loại quá trình Markov khác hoặc quá trình phi Markov thì có thể cần công cụ khác
Như một bình luận khác đã nói, trong các trường hợp đặc biệt bản thân SDE cũng có thể có nghiệm chính xác, nhưng nói chung thì không
Phần giải thích này chỉ giới hạn ở SDE, tức các phương trình vi phân có nhiễu trắng Gaussian làm hạng cưỡng bức. Với các quá trình ngẫu nhiên khác như quá trình nhảy Markov, dạng phương trình tiến hóa của phân phối sẽ khác, nhưng vẫn chia sẻ một số nguyên lý chung như phương trình Chapman-Kolmogorov
Các biểu thức phức tạp hơn thường không thể giải như vậy. Thứ người ta thường muốn là kỳ vọng của một hàm của quá trình ngẫu nhiên tại một thời điểm nào đó, và có thể chứng minh rằng kỳ vọng này tuân theo một phương trình đạo hàm riêng tất định nhất định. Sau đó dùng bộ giải phương trình đạo hàm riêng số để xử lý
Nếu số chiều cao hoặc quá trình phụ thuộc mạnh vào đường đi nên không có tính Markov, cuối cùng bạn sẽ dùng mô phỏng Monte Carlo để thực sự mô phỏng “nhiều diễn tiến sự kiện có thể xảy ra”
Ví dụ, ta biết random walk sẽ trở thành phân phối chuẩn và trung bình cùng phương sai tiến tới vô hạn, nên tôi hiểu đây là trường hợp có thể xác định hàm phương sai theo thời gian chỉ từ đầu vào, dẫn đến một nghiệm giải tích thanh nhã
Nhưng trong nhiều trường hợp không có nghiệm giải tích, nên phải chạy thuật toán ngẫu nhiên. Trong động học phản ứng hóa học ngẫu nhiên đơn giản, thuật toán Gillespie là một ví dụ như vậy
Nếu chỉ muốn biết thống kê của đường đi, trong nhiều trường hợp có thể lập và giải phương trình Fokker-Planck, một phương trình đạo hàm riêng, để thu được mật độ đường đi
Bước tiếp theo là Langevin Dynamics, trong đó hệ có động lượng bị suy giảm và nhiễu đi vào động lượng
Nó cũng được dùng trong mô phỏng động lực học phân tử và có thể dùng trong lấy mẫu Bayesian MCMC
Điều lạ là khi nhắc đến Langevin Dynamics liên quan đến AI, tôi thường thấy người ta bỏ qua việc dùng động lượng. Dù trong AI, gradient descent có momentum được dùng rộng rãi. Dễ gây nhầm lẫn hơn nữa, từ “ngẫu nhiên” cũng được dùng để chỉ việc xấp xỉ gradient bằng cách lấy mẫu một phần dữ liệu ở mỗi bước. Nếu muốn, bạn có thể áp dụng đồng thời cả hai loại tính ngẫu nhiên
Tôi không rõ chính xác vì sao phía AI ít dùng hơn, nhưng có vẻ tính phi lồi của các ứng dụng AI gây ra vấn đề. Ngay cả trong thiết lập log-concave, lấy mẫu vốn đã là một bài toán đủ khó
Tài liệu cá nhân tôi thích về giải tích ngẫu nhiên là Stochastic Processes in Information and Dynamical Systems của Eugene Wong, McGraw-Hill, New York, 1971
Tôi vẫn còn nhớ hồi học giải tích ngẫu nhiên
Tôi cũng nhớ mình từng ghi chú rằng độ lệch chuẩn trong thống kê thông thường và biến thiên bậc hai hơi khác nhau về cách tính phương sai. Kiểu như lệch 1 đơn vị hoặc khác nhau ở phép bình phương gì đó, và tôi đã ghi lại để sau này tìm hiểu vì sao. Có lẽ là do tính biến động ngẫu nhiên
sum i=1..N (x_i - mu)^2 / NỞ đây trung bình
mu := sum x_i / Nlà trung bình thực của tổng thểTrong khi đó, khi lấy n mẫu độc lập cùng phân phối từ một phân phối nào đó, ước lượng tốt nhất cho phương sai của phân phối là
sum i=1..n (x_i - a )^2 / (n-1)Ở đây ta thay trung bình
mubằng trung bình mẫua := sum x_i / n, và chia cho n-1 thay vì N. “Tốt nhất” có nghĩa là ước lượng không chệch, và có thể kiểm tra bằng một phép tính nhàm chán nhưng không khó rằng kỳ vọng của công thức thứ hai chính là phương sai tổng thểThứ nhất, phương sai mẫu phụ thuộc vào trung bình mẫu
sum(x_i) / n. Nếu biết n-1 mẫu đầu tiên trong n mẫu và cũng biết trung bình mẫu, thì giá trị cuối cùng sẽ được xác định, nên ít nhất có thể hiểu n-1 là bậc tự do. Các mô-men mẫu bậc cao hơn cũng có thể được hiểu đại khái bằng lập luận bậc tự do tương tự, nhưng cũng có thể saiThứ hai, theo cách toán học hơn thì
biased_sample_variance = sum((x_i - sum(x_i) / n)^2) / n. Trung bình của phương sai mẫu bị chệch này trên nhiều tập mẫu không phải là phương sai tổng thể, mà là(n - 1) / n * population_variance. Vì vậy, nhân vớin / (n - 1)sẽ cho phương sai mẫu không chệchsum((x_i - sum(x_i) / n)^2) / (n - 1). Khi đã bắt được mạch, phần toán này khá thú vịGần đây tôi gặp một ví dụ như thế này. Giả sử ta chơi một “trò chơi”. Rút một số ngẫu nhiên A theo phân phối đều trong khoảng từ 0 đến 1, rồi rút số thứ hai B từ cùng phân phối
Nếu A > B thì rút lại B, còn A giữ nguyên. Số lần rút trung bình cần thiết, tức “chuỗi thắng” trung bình của A, là bao nhiêu?
Đáp án là vô hạn. Vì đôi khi A ra một giá trị cực kỳ cao, và để thắng được nó có thể cần tới hàng triệu lần rút
(1-p)Do đó xác suất để sau khi B được rút n lần thì B nhỏ hơn hoặc bằng A là phân phối hình học
p^(n-1) (1-p). Số lần rút kỳ vọng là1/p, vàE[draws] = E[E[draws|A=p]] = \int_0^1 E[draws|A=p] dp = \int_0^1 (1/p) dp, nên như đã nói, nó phân kỳ đến vô hạnKhông phải là tôi nghi ngờ, chỉ là muốn xem phép tính
1/(1-A)Câu hỏi gửi tới độc giả HN. Tôi đã xác định khoảng 50 vị trí (loci) trong bộ gen chuột có chứa các khác biệt DNA điều chỉnh tỷ lệ tử vong, và phần lớn có hiệu ứng actuarial phức tạp phụ thuộc vào tuổi
Tôi muốn dự đoán tuổi tử vong; liệu giải tích ngẫu nhiên có phải là một cách tiếp cận hữu ích cho dự báo actuarial về tuổi thọ kỳ vọng của chuột không? Vì vậy tôi rất vui khi thấy bài này lên trang đầu HN
Số lượng câu hỏi, tức số loci, có vẻ tương đương với số khoảng thời gian có thể chia một cách hợp lý. Một hiệu ứng làm thay đổi thời điểm tử vong bằng 1/50 tuổi thọ của chuột, nếu tôi không nhầm, sẽ khó phát hiện. Vì số khoảng thời gian cũng không nhiều, và cũng không có mô hình tương tác giữa các biến trạng thái, nên bạn sẽ dùng các phương pháp thống kê không mô hình; do đó có lẽ bạn gần như đã thu được hầu hết giá trị có thể có từ các phương pháp rời rạc
Vì đối tượng là tuổi, tôi sẽ không giả định có một phân phối Gaussian ở nền. Thay đổi đó không khó như bạn tưởng: https://en.wikipedia.org/wiki/Generalized_linear_model
Như mọi khi, nên tham khảo ý kiến một nhà thống kê gần bạn
Nhưng nếu thứ bạn đang quan sát là sống/chết theo thời gian, thì đầu ra là giá trị nhị phân, và thông tin thực sự thu được chỉ là thời điểm tử vong, nên có lẽ bạn không cần hoặc không muốn mô hình random walk; một mô hình thống kê tổng quát hơn có vẻ phù hợp. Nếu ngoài trạng thái tử vong còn có các biến khác đang được đo, mô hình xác suất có thể hữu ích
Ngoài ra, nếu điều đó có nghĩa là toàn bộ 50×X byte thông tin đều ảnh hưởng đến tuổi thọ kỳ vọng thì đây là một bài toán khó, nhưng vì có nhiều đầu vào rời rạc và một đầu ra trơn, nó khá phù hợp với mạng nơ-ron. Hãy thử cả mạng nơ-ron lẫn mô hình tuyến tính rồi xem mạng nơ-ron tốt hơn đến mức nào; nhờ đó có thể đánh giá liệu có các tương tác phức tạp hơn tuyến tính hay không
Nếu tiếp cận theo hướng thực dụng, tôi sẽ rời rạc hóa thời gian và áp dụng machine learning cổ điển để khớp dữ liệu, dự đoán “xác suất chết ở tháng X với điều kiện đã sống tới thời điểm đó”. Khi đó sẽ dễ phát hiện lỗi dữ liệu và các vấn đề tiềm ẩn hơn nhiều
Tôi chỉ chọn giải tích ngẫu nhiên hoặc phân tích sống còn bài bản khi muốn chứng minh hoặc suy ra mối liên hệ giữa các tính chất toán học sẵn có như tính không nhớ và các tính chất vật lý/sinh học như hành vi của một protein cụ thể. Điều đó rất hay, nhưng khá khó, đặc biệt khi dữ liệu hạn chế. Tôi hiểu cách các bài báo tài chính dùng phân tích ngẫu nhiên cũng đại khái như vậy: giả định một tính chất toán học phổ quát nào đó của hệ thống, rồi chứng minh nó khớp với dữ liệu thực tế
Hiểu biết của tôi về giải tích Itô là như sau. Ban đầu, quá trình ngẫu nhiên duy nhất mà chúng ta hiểu là Brownian motion, và may mắn là ta có thể đổi tọa độ
Đây là một ví dụ rất hay về cách viết một bài nhập môn thân thiện với người mới
Đặc biệt, phần giải thích động cơ của bổ đề Itô bằng điểm rằng hạng
dW^2vốn biến mất trong giải tích thông thường vẫn còn quan trọng, và phần chuyển đổi sang Stratonovich, đều rất tốtXin trợ giúp cách đọc câu này: “Brownian motion and Itô calculare a notable example of fairly high-level mathematics that are applied to model the real world”
Tôi không biết “Itô calculare” lẽ ra phải là gì. Có phải “Its calculation” không?
calcularecó lẽ là lỗi gõ dính củacalculus arecalcularelẽ ra phải là calculus are