UA MATH563 概率論的數學基礎 鞅論初步8 鞅收斂定理
UA MATH563 概率論的數學基礎 鞅論初步8 鞅收斂定理
上一講我們定義了停時,並引入了鞅收斂定理,這一講我們完成鞅收斂定理的證明,並完成上一講的例題。
鞅收斂定理 假設 { X n } \{X_n\} {Xn}是一個 { F n } \{\mathcal{F}_n\} {Fn}上的submartingale,且滿足 sup n E X n + < ∞ \sup_n EX_n^+<\infty supnEXn+<∞,則 X n → X , a . s X_n \to X,a.s Xn→X,a.s,並且 E ∣ X ∣ < ∞ E|X|<\infty E∣X∣<∞。
推論 如果 X n X_n Xn是一個非負supermartingale,則 X n → X X_n\to X Xn→X a.s. 並且 E X ≤ E X 0 EX \le EX_0 EX≤EX0。
證明
第一部分:我們先假設鞅收斂定理成立,然後論述推論。
如果
X
n
X_n
Xn是一個非負supermartingale,則
−
X
n
-X_n
−Xn是一個submartingale,並且因為
X
n
≥
0
X_n \ge 0
Xn≥0, 則
(
−
X
n
)
+
=
0
(-X_n)^+=0
(−Xn)+=0,所以
sup
n
E
[
(
−
X
n
)
+
]
=
0
<
∞
\sup_nE[(-X_n)^+]=0<\infty
supnE[(−Xn)+]=0<∞, 根據鞅收斂定理,
−
X
n
→
Y
-X_n \to Y
−Xn→Y a.s.,
∃
Y
\exists Y
∃Y such that
E
∣
X
∣
<
∞
E|X|<\infty
E∣X∣<∞。根據supermartingale的性質,
E
[
X
0
]
≥
E
[
X
n
]
,
∀
n
E[X_0] \ge E[X_n],\forall n
E[X0]≥E[Xn],∀n
因此根據Fatou引理
E
[
X
0
]
≥
lim inf
E
[
X
n
]
≥
E
[
lim inf
X
n
]
=
E
[
lim
X
n
]
=
E
[
X
]
E[X_0] \ge \liminf E[X_n] \ge E[\liminf X_n]=E[\lim X_n]=E[X]
E[X0]≥liminfE[Xn]≥E[liminfXn]=E[limXn]=E[X]
第二部分:證明鞅收斂定理中幾乎必然收斂的部分。
先回顧一下證明過程中需要的結果
Doob’s inequality (Upcrossing Inequality) 假設
{
X
n
}
\{X_n\}
{Xn}是一個
{
F
n
}
\{\mathcal{F}_n\}
{Fn}上的submartingale,
a
<
b
a<b
a<b,
N
0
=
−
1
N_0=-1
N0=−1,
N
1
=
inf
{
m
>
N
0
:
X
m
≤
a
}
N
2
=
inf
{
m
>
N
1
:
X
m
≥
b
}
⋯
N
2
k
−
1
=
inf
{
m
>
N
2
k
−
2
:
X
m
≤
a
}
N
2
k
=
inf
{
m
≥
N
2
k
−
1
:
X
m
≥
b
}
N_1=\inf\{m>N_0:X_m \le a\} \\ N_2 = \inf\{m >N_1:X_m \ge b\} \\ \cdots \\ N_{2k-1} = \inf\{m>N_{2k-2}:X_m \le a\} \\ N_{2k} = \inf\{m \ge N_{2k-1}:X_m \ge b\}
N1=inf{m>N0:Xm≤a}N2=inf{m>N1:Xm≥b}⋯N2k−1=inf{m>N2k−2:Xm≤a}N2k=inf{m≥N2k−1:Xm≥b}
定義
U
n
=
sup
{
k
:
N
2
k
≤
n
}
U_n = \sup\{k:N_{2k} \le n\}
Un=sup{k:N2k≤n}
則
(
b
−
a
)
E
U
n
≤
E
[
(
X
n
−
a
)
+
]
−
E
[
(
X
0
−
a
)
+
]
(b-a)EU_n \le E[(X_n-a)^+]-E[(X_0-a)^+]
(b−a)EUn≤E[(Xn−a)+]−E[(X0−a)+]
下面我們來證明鞅收斂定理。為了使用Upcrossing,我們需要構造一些結構:
{ w : lim inf X n ( w ) < lim sup X n ( w ) } = ⋃ a < b { w : lim inf X n ( w ) < a < b < lim sup X n ( w ) } \{w:\liminf X_n(w)<\limsup X_n(w)\} \\ = \bigcup_{a<b}\{w:\liminf X_n(w)<a<b<\limsup X_n(w)\} {w:liminfXn(w)<limsupXn(w)}=a<b⋃{w:liminfXn(w)<a<b<limsupXn(w)}
其中 { w : lim inf X n ( w ) < a < b < lim sup X n ( w ) } \{w:\liminf X_n(w)<a<b<\limsup X_n(w)\} {w:liminfXn(w)<a<b<limsupXn(w)}表示的事件是 X n X_n Xn從 a a a以下穿過到 b b b以上無數次的事件的子集。
然後我們再分析一下Upcorssing不等式,
(
b
−
a
)
E
U
n
≤
E
[
(
X
n
−
a
)
+
]
−
E
[
(
X
0
−
a
)
+
]
⇒
E
U
n
≤
E
[
(
X
n
−
a
)
+
]
−
E
[
(
X
0
−
a
)
+
]
b
−
a
⇒
E
U
n
≤
E
[
(
X
n
−
a
)
+
]
b
−
a
≤
E
[
X
n
]
+
+
∣
a
∣
b
−
a
(b-a)EU_n \le E[(X_n-a)^+]-E[(X_0-a)^+] \\ \Rightarrow EU_n \le \frac{E[(X_n-a)^+]-E[(X_0-a)^+] }{b-a} \\ \Rightarrow EU_n \le \frac{E[(X_n-a)^+]}{b-a} \le \frac{E[X_n]^++|a|}{b-a}
(b−a)EUn≤E[(Xn−a)+]−E[(X0−a)+]⇒EUn≤b−aE[(Xn−a)+]−E[(X0−a)+]⇒EUn≤b−aE[(Xn−a)+]≤b−aE[Xn]++∣a∣
根據
U
n
U_n
Un的定義,
U
n
↑
U
U_n \uparrow U
Un↑U,這裡
U
U
U表示整個序列的upcrossing的次數。根據控制收斂定理,
E
U
n
↑
E
U
≤
sup
n
E
[
X
n
]
+
+
∣
a
∣
b
−
a
EU_n \uparrow EU\le \frac{\sup_nE[X_n]^++|a|}{b-a}
EUn↑EU≤b−asupnE[Xn]++∣a∣
我們假設了
sup
n
E
X
n
+
<
∞
\sup_n EX_n^+<\infty
supnEXn+<∞,因此
E
U
<
∞
,
a
.
s
.
EU<\infty,a.s.
EU<∞,a.s.。我們可以進一步得到(可以用反證法驗證)
P
(
{
w
:
lim inf
X
n
(
w
)
<
a
<
b
<
lim sup
X
n
(
w
)
}
)
=
0
P(\{w:\liminf X_n(w)<a<b<\limsup X_n(w)\})=0
P({w:liminfXn(w)<a<b<limsupXn(w)})=0
因此
P
(
lim inf
X
n
(
w
)
=
lim sup
X
n
(
w
)
)
=
1
P(\liminf X_n(w)=\limsup X_n(w))=1
P(liminfXn(w)=limsupXn(w))=1
所以 X n → X X_n \to X Xn→X a.s.,這裡 X X X是某個隨機變數。
第三部分:證明極限可積, E ∣ X ∣ < ∞ E|X|<\infty E∣X∣<∞。
根據Fatou引理,
E
X
+
≤
lim inf
E
X
n
+
≤
sup
n
E
X
n
+
<
∞
EX^+ \le \liminf EX_n^+ \le \sup_n EX_n^+<\infty
EX+≤liminfEXn+≤nsupEXn+<∞
因為
E
X
n
−
=
E
X
n
+
−
E
X
n
≤
E
X
n
+
−
E
X
0
EX_n^- = EX_n^+-EX_n \le EX_n^+ - EX_0
EXn−=EXn+−EXn≤EXn+−EX0,根據Fatou引理,
E
X
−
≤
lim inf
E
X
n
−
≤
sup
n
E
X
n
+
+
E
X
0
<
∞
EX^- \le \liminf EX_n^- \le \sup_n EX_n^+ +EX_0<\infty
EX−≤liminfEXn−≤nsupEXn++EX0<∞
因此 E ∣ X ∣ = E X + + E X − < ∞ E|X| = EX^++EX^-<\infty E∣X∣=EX++EX−<∞。
例 Branching Process
假設
ξ
i
j
\xi_{ij}
ξij是互相獨立的取值為自然數的隨機變數,
P
(
ξ
i
j
=
k
)
=
p
k
,
∀
k
≥
0
P(\xi_{ij}=k)=p_k,\forall k \ge 0
P(ξij=k)=pk,∀k≥0,記
m
=
∑
k
≥
0
k
p
k
m = \sum_{k \ge 0}kp_k
m=∑k≥0kpk,定義
X
n
=
∑
i
=
1
X
n
−
1
ξ
i
n
,
X
0
=
a
X_n = \sum_{i=1}^{X_{n-1}}\xi_{in},\ \ X_0=a
Xn=i=1∑Xn−1ξin, X0=a
在這個設定中,我們可以把 ξ i j \xi_{ij} ξij的下標 i i i理解為第 i i i戶, j j j理解為第 j j j代, ξ i j \xi_{ij} ξij表示第 i i i戶、第 j j j代有幾個娃,則 X n X_n Xn的含義可以是某家族第 n n n代的總人口數, m m m表示平均每一代每一戶有幾個娃。
問題1:第
n
n
n代平均有多少人?
E
[
X
n
]
=
E
[
∑
i
=
1
X
n
−
1
ξ
i
n
]
=
E
[
E
[
∑
i
=
1
X
n
−
1
ξ
i
n
∣
X
n
−
1
]
]
=
E
[
m
X
n
−
1
]
E[X_n]=E \left[ \sum_{i=1}^{X_{n-1}}\xi_{in} \right] = E \left[ E\left[ \sum_{i=1}^{X_{n-1}}\xi_{in} | X_{n-1} \right]\right] = E[ mX_{n-1}]
E[Xn]=E[i=1∑Xn−1ξin]=E[E[i=1∑Xn−1ξin∣Xn−1]]=E[mXn−1]
於是我們有了一個遞推式:
E
[
X
n
]
=
m
E
[
X
n
−
1
]
E[X_n]=mE[X_{n-1}]
E[Xn]=mE[Xn−1]
所以
E
[
X
n
]
=
a
m
n
E[X_n]=am^n
E[Xn]=amn
這個結果能給我們下面幾條啟發:
- 在這個模型下,如果 m < 1 m<1 m<1,這個家族第 n n n代期望人口歸零,當 n n n足夠大的時候;
- 如果 m > 1 m>1 m>1,這個家族期望人口將指數增長;
- 如果 m = 1 m=1 m=1,這個家族期望人口保持不變
問題2:
X
n
X_n
Xn是鞅嗎?
定義
Z
n
=
X
n
/
m
n
Z_n=X_n/m^n
Zn=Xn/mn,
F
n
=
σ
{
ξ
i
j
:
j
≤
n
}
\mathcal{F}_n=\sigma\{\xi_{ij}:j \le n\}
Fn=σ{ξij:j≤n},則
(
Z
n
,
F
n
)
(Z_n,\mathcal{F}_n)
(Zn,Fn)是一個鞅,因為
E
[
Z
n
+
1
∣
F
n
]
=
E
[
∑
i
=
1
X
n
ξ
i
,
n
+
1
/
m
n
∣
F
n
]
=
m
X
n
m
n
+
1
=
Z
n
E[Z_{n+1}|\mathcal{F}_n] = E \left[ \sum_{i=1}^{X_n}\xi_{i,n+1} /m^n|\mathcal{F}_n\right] = \frac{mX_n}{m^{n+1}} = Z_n
E[Zn+1∣Fn]=E[i=1∑Xnξi,n+1/mn∣Fn]=mn+1mXn=Zn
根據鞅收斂定理,
∃
W
≥
0
,
a
.
s
.
\exists W \ge 0 ,a.s.
∃W≥0,a.s.,
W
W
W可積,並且
Z
n
→
W
Z_n \to W
Zn→W
問題3:論述
m
<
1
m<1
m<1時這個家族消亡的概率為1
根據Markov不等式,
P
(
X
n
≥
1
)
≤
E
X
n
=
a
m
n
P(X_n \ge 1) \le EX_n = am^n
P(Xn≥1)≤EXn=amn
因此,根據Borel-Cantelli引理,
P
(
X
n
≥
1
i
.
o
.
)
=
0
⇔
P
(
X
n
=
0
e
.
v
.
)
=
1
P(X_n \ge 1\ i.o.)=0 \\ \Leftrightarrow P(X_n =0 \ e.v.)=1
P(Xn≥1 i.o.)=0⇔P(Xn=0 e.v.)=1
相關文章
- UA MATH563 概率論的數學基礎 鞅論初步9 分支過程簡介H5
- UA MATH563 概率論的數學基礎 中心極限定理5 Renyi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理14 Kolmogorov maximal inequalityH5Go
- UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性H5
- UA MATH563 概率論的數學基礎 中心極限定理15 Kolmogorov 0-1律H5Go
- UA MATH563 概率論的數學基礎 中心極限定理8 弱大數定律 Bernstein多項式逼近H5
- UA MATH563 概率論的數學基礎 中心極限定理12 強大數定律 版本2:Etemadi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理7 Kolmogorov extension theorem及其擴充套件H5GoREM套件
- UA MATH563 概率論的數學基礎 中心極限定理6 獨立隨機變數的和與Kolmogorov擴充套件定理H5隨機變數Go套件
- UA MATH563 概率論的數學基礎 中心極限定理4 獨立一元隨機變數的性質H5隨機變數
- 鞅與停時定理
- 機器學習數學複習 - 1.概率論基礎機器學習
- 人工智慧必備數學基礎:概率論與數理統計(1)人工智慧
- 人工智慧必備數學基礎:概率論與數理統計(2)人工智慧
- 離散數學(數論基礎)
- 概率論——數學——大學課程學習
- 基礎數論
- 基礎數論——EXGCDGC
- 計量經濟學(十五)的理論基礎——時間序列分解定理
- 從貝葉斯定理到概率分佈:綜述概率論基本定義概率分佈
- 機器學習數學知識積累之概率論機器學習
- 數學與程式設計:“概率論”總結程式設計
- 高等代數理論基礎24:線性方程組有解判別定理
- 數論入門基礎(同餘定理/費馬小定理/擴充套件歐幾里德演算法/中國剩餘定理)套件演算法
- 數論基礎——求導求導
- 概率論04 隨機變數隨機變數
- 電子遊戲理論基礎知識的初步探索(轉)遊戲
- 數論裡的尤拉定理,試證明
- 數學與程式設計——概率論與數理統計程式設計
- 【概率論】一維隨機變數隨機變數
- 【數學基礎篇】--詳解人工智慧之數學 積分學,概率空間,大數定律和中心極限定理人工智慧
- 概率論08 隨機變數的函式隨機變數函式
- 概率論與數理統計的學習(歸納+總結)
- 「管理數學基礎」1.7 矩陣理論:方陣特徵值估計、圓盤定理、譜與譜半徑矩陣特徵
- 基礎圖論圖論
- 申論——基礎
- 圖論基礎圖論
- AI數學基礎之:概率和上帝視角AI