UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性
UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性
給定一個度量可測空間 ( Ω , F ) (\Omega,\mathcal{F}) (Ω,F),度量為 d d d,我們可以在這個可測空間上定義概率測度,用 C \mathcal{C} C表示這個可測空間上所有可能的概率測度,接下來我們試圖研究 C \mathcal{C} C的緊性。之所以要討論概率測度族的緊性是因為我們前幾講討論的是概率測度的收斂,我們希望概率測度的極限也是概率測度,特別是在中心極限定理中,我們希望極限分佈也能是一個分佈,因此我們需要緊的概率測度族。
例 概率測度的極限可能不是概率測度,比如
μ
n
=
a
δ
n
+
(
1
−
a
)
v
\mu_n = a\delta_n+(1-a)v
μn=aδn+(1−a)v,其中
v
v
v是概率測度,不妨假設
v
=
δ
0
v = \delta_0
v=δ0,則
F
n
(
x
)
=
{
1
−
a
,
x
<
n
1
,
x
≥
n
→
1
−
a
F_n(x) = \begin{cases} 1-a, x<n \\ 1,x \ge n \end{cases} \to 1-a
Fn(x)={1−a,x<n1,x≥n→1−a
顯然 F ( x ) = 1 − a F(x)=1-a F(x)=1−a不是一個cdf。我們稱這樣的概率測度它取極限後存在"mass loss"。
Helly定理
假設
F
n
F_n
Fn是實數上的一列累積分佈函式,則存在它的子列
F
n
k
F_{n_k}
Fnk使得
F
n
k
→
F
F_{n_k} \to F
Fnk→F
其中 F F F是非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式,這樣的收斂在老文獻被稱為vague convergence。
說明
儘管
F
F
F本身不是一個累積分佈函式,但是根據
F
F
F我們可以匯出一個Lebesgue-Stieltjes測度
μ
F
\mu_F
μF,並基於
μ
F
\mu_F
μF匯出一個概率測度。
證明
∀
q
∈
Q
\forall q \in \mathbb{Q}
∀q∈Q,存在
F
n
F_n
Fn的子列收斂到
G
(
q
)
G(q)
G(q),定義
F
(
x
)
=
inf
{
G
(
q
)
:
q
>
x
,
q
∈
Q
}
F(x) = \inf\{G(q):q>x,q \in \mathbb{Q}\}
F(x)=inf{G(q):q>x,q∈Q}
驗證 F F F是一個非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式即可。
概率測度的緊性
稱
{
F
n
}
\{F_n\}
{Fn}或者
{
μ
n
}
\{\mu_n\}
{μn}是緊的(tight),如果
∀
ϵ
>
0
\forall \epsilon>0
∀ϵ>0,
∃
K
\exists K
∃K緊集,
K
⊂
Ω
K \subset \Omega
K⊂Ω,使得
sup
n
μ
n
(
K
C
)
<
∞
\sup_n \mu_n(K^C)<\infty
nsupμn(KC)<∞
也就是說存在一個概率1的緊集。
定理
假設
{
F
n
}
\{F_n\}
{Fn}是一列分佈,它的每個子列的極限都是分佈的充要條件是
F
n
F_n
Fn是緊的。
證明
⇐
\Leftarrow
⇐:如果
F
n
F_n
Fn是緊的,
F
n
k
F_{n_k}
Fnk是它的一個子列,
F
n
k
→
F
F_{n_k} \to F
Fnk→F,我們需要說明
F
F
F也是分佈。
根據Helly定理,存在一個子列 F n k l F_{n_{k_l}} Fnkl收斂到 G G G,因為 F n k → F F_{n_k} \to F Fnk→F,所以 F = G F=G F=G,於是 F F F也是非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式。
因為 F n F_n Fn是緊的, ∀ ϵ > 0 , ∃ M > 0 \forall \epsilon>0,\exists M>0 ∀ϵ>0,∃M>0, sup n P ( ∣ X n ∣ > M ) < ϵ sup n ( F n ( − M ) + 1 − F n ( M ) ) < ϵ \sup_nP(|X_n| >M)<\epsilon \\ \sup_n (F_n(-M)+1-F_n(M))<\epsilon nsupP(∣Xn∣>M)<ϵnsup(Fn(−M)+1−Fn(M))<ϵ
不妨假設
M
M
M是一個連續點(分佈函式的連續點是稠密的),如果
x
>
M
x>M
x>M,則
F
(
x
)
≥
F
(
M
)
=
lim
F
n
k
(
M
)
≥
1
−
ϵ
F(x) \ge F(M) = \lim F_{n_k}(M) \ge 1-\epsilon
F(x)≥F(M)=limFnk(M)≥1−ϵ
於是 lim x → ∞ F ( x ) = 1 \lim_{x \to \infty} F(x) = 1 limx→∞F(x)=1,類似地可以說明 lim x → − ∞ F ( x ) = 0 \lim_{x \to -\infty}F(x) = 0 limx→−∞F(x)=0。
⇒
\Rightarrow
⇒:假設
F
n
F_n
Fn不緊,
∃
ϵ
>
0
\exists \epsilon>0
∃ϵ>0,
∀
M
>
0
\forall M>0
∀M>0,
sup
n
P
(
∣
X
n
∣
>
M
)
>
ϵ
\sup_n P(|X_n|>M)>\epsilon
supnP(∣Xn∣>M)>ϵ,也就是對於每一個
M
M
M,我們總是可以找到一個
F
n
M
F_{n_M}
FnM,使得
sup
n
(
F
n
M
(
−
M
)
+
1
−
F
n
M
(
M
)
)
>
ϵ
\sup_n (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon
nsup(FnM(−M)+1−FnM(M))>ϵ
根據Helly定理,我們總是可以找到一個收斂的子列,基於它的極限可以構造一個L-S測度,我們記它的極限為
F
F
F,給定
l
<
M
l<M
l<M,且
l
l
l也是連續點,則
F
(
−
l
)
+
(
1
−
F
(
l
)
)
=
lim
(
F
n
M
(
−
M
)
+
1
−
F
n
M
(
M
)
)
>
ϵ
F(-l)+(1-F(l)) = \lim (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon
F(−l)+(1−F(l))=lim(FnM(−M)+1−FnM(M))>ϵ
於是根據極限的保號性,
lim
l
F
(
−
l
)
+
(
1
−
F
(
l
)
)
>
ϵ
\lim_{l}F(-l)+(1-F(l)) >\epsilon
llimF(−l)+(1−F(l))>ϵ
這與基於 F F F可以構造一個L-S測度矛盾。
在上面的定理中,我們證明緊性的方法是反證法,緊性不成立可以匯出與Helly定理矛盾的結果,於是我們可以得到緊性。但反證法在實際問題的應用中比較麻煩,我們希望匯出一些更“好用”的結果。
緊性的充分條件 sup n E ∣ X n ∣ α < ∞ , ∀ α > 0 \sup_n E|X_n|^{\alpha}<\infty,\forall \alpha>0 supnE∣Xn∣α<∞,∀α>0
說明
μ n ( [ − M , M ] C ) = P ( ∣ X n ∣ > M ) = P ( ∣ X n ∣ α > M α ) ≤ E ∣ X n ∣ α M α ≤ sup n E ∣ X n ∣ α M α \mu_n([-M,M]^C) = P(|X_n|>M) = P(|X_n|^{\alpha}>M^{\alpha}) \\ \le \frac{E|X_n|^{\alpha}}{M^{\alpha}} \le \frac{\sup_n E|X_n|^{\alpha}}{M^{\alpha}} μn([−M,M]C)=P(∣Xn∣>M)=P(∣Xn∣α>Mα)≤MαE∣Xn∣α≤MαsupnE∣Xn∣α
取 M α > c o n s t . / ϵ M^{\alpha}>const. / \epsilon Mα>const./ϵ即可。
相關文章
- UA MATH563 概率論的數學基礎 中心極限定理5 Renyi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理14 Kolmogorov maximal inequalityH5Go
- UA MATH563 概率論的數學基礎 中心極限定理15 Kolmogorov 0-1律H5Go
- UA MATH563 概率論的數學基礎 中心極限定理12 強大數定律 版本2:Etemadi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理7 Kolmogorov extension theorem及其擴充套件H5GoREM套件
- UA MATH563 概率論的數學基礎 中心極限定理4 獨立一元隨機變數的性質H5隨機變數
- UA MATH563 概率論的數學基礎 中心極限定理8 弱大數定律 Bernstein多項式逼近H5
- UA MATH563 概率論的數學基礎 鞅論初步8 鞅收斂定理H5
- UA MATH563 概率論的數學基礎 中心極限定理6 獨立隨機變數的和與Kolmogorov擴充套件定理H5隨機變數Go套件
- UA MATH563 概率論的數學基礎 鞅論初步9 分支過程簡介H5
- 【數學基礎篇】--詳解人工智慧之數學 積分學,概率空間,大數定律和中心極限定理人工智慧
- 機器學習數學複習 - 1.概率論基礎機器學習
- 從貝葉斯定理到概率分佈:綜述概率論基本定義概率分佈
- 概率論——數學——大學課程學習
- 人工智慧必備數學基礎:概率論與數理統計(1)人工智慧
- 人工智慧必備數學基礎:概率論與數理統計(2)人工智慧
- AI數學基礎之:概率和上帝視角AI
- 圖解AI數學基礎 | 概率與統計圖解AI
- 機器學習數學知識積累之概率論機器學習
- 數學與程式設計:“概率論”總結程式設計
- 概率論04 隨機變數隨機變數
- 概率論08 隨機變數的函式隨機變數函式
- 概率論與數理統計的學習(歸納+總結)
- 【概率論】一維隨機變數隨機變數
- 數學與程式設計——概率論與數理統計程式設計
- 伯努利大數定理(揭示了頻率和概率的關係)
- 從貝葉斯定理到概率分佈概率分佈
- 如何通俗地理解概率論中的「極大似然估計法」?
- 微信紅包的概率測試程式
- 大數定律與中心極限定理
- Nature論文解讀 | 基於深度學習和心臟影像預測生存概率深度學習
- 概率論11 協方差與相關係數
- 大資料之概率論大資料
- 概率論知識總結
- 從勾股定理到餘弦相似度-程式設計師的數學基礎程式設計師
- 高等代數理論基礎24:線性方程組有解判別定理
- 條件概率與全概率公式公式
- 技術基礎 | 捨棄”讀修復概率”特性