UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性

一個不願透露姓名的孩子發表於2020-12-31

UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性

給定一個度量可測空間 ( Ω , F ) (\Omega,\mathcal{F}) (Ω,F),度量為 d d d,我們可以在這個可測空間上定義概率測度,用 C \mathcal{C} C表示這個可測空間上所有可能的概率測度,接下來我們試圖研究 C \mathcal{C} C的緊性。之所以要討論概率測度族的緊性是因為我們前幾講討論的是概率測度的收斂,我們希望概率測度的極限也是概率測度,特別是在中心極限定理中,我們希望極限分佈也能是一個分佈,因此我們需要緊的概率測度族。

概率測度的極限可能不是概率測度,比如 μ n = a δ n + ( 1 − a ) v \mu_n = a\delta_n+(1-a)v μn=aδn+(1a)v,其中 v v v是概率測度,不妨假設 v = δ 0 v = \delta_0 v=δ0,則
F n ( x ) = { 1 − a , x < n 1 , x ≥ n → 1 − a F_n(x) = \begin{cases} 1-a, x<n \\ 1,x \ge n \end{cases} \to 1-a Fn(x)={1a,x<n1,xn1a

顯然 F ( x ) = 1 − a F(x)=1-a F(x)=1a不是一個cdf。我們稱這樣的概率測度它取極限後存在"mass loss"。

Helly定理
假設 F n F_n Fn是實數上的一列累積分佈函式,則存在它的子列 F n k F_{n_k} Fnk使得
F n k → F F_{n_k} \to F FnkF

其中 F F F是非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式,這樣的收斂在老文獻被稱為vague convergence。

說明
儘管 F F F本身不是一個累積分佈函式,但是根據 F F F我們可以匯出一個Lebesgue-Stieltjes測度 μ F \mu_F μF,並基於 μ F \mu_F μF匯出一個概率測度。

證明
∀ q ∈ Q \forall q \in \mathbb{Q} qQ,存在 F n F_n Fn的子列收斂到 G ( q ) G(q) G(q),定義
F ( x ) = inf ⁡ { G ( q ) : q > x , q ∈ Q } F(x) = \inf\{G(q):q>x,q \in \mathbb{Q}\} F(x)=inf{G(q):q>x,qQ}

驗證 F F F是一個非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式即可。


概率測度的緊性
{ F n } \{F_n\} {Fn}或者 { μ n } \{\mu_n\} {μn}是緊的(tight),如果 ∀ ϵ > 0 \forall \epsilon>0 ϵ>0 ∃ K \exists K K緊集, K ⊂ Ω K \subset \Omega KΩ,使得
sup ⁡ n μ n ( K C ) < ∞ \sup_n \mu_n(K^C)<\infty nsupμn(KC)<

也就是說存在一個概率1的緊集。

定理
假設 { F n } \{F_n\} {Fn}是一列分佈,它的每個子列的極限都是分佈的充要條件是 F n F_n Fn是緊的。

證明
⇐ \Leftarrow :如果 F n F_n Fn是緊的, F n k F_{n_k} Fnk是它的一個子列, F n k → F F_{n_k} \to F FnkF,我們需要說明 F F F也是分佈。

根據Helly定理,存在一個子列 F n k l F_{n_{k_l}} Fnkl收斂到 G G G,因為 F n k → F F_{n_k} \to F FnkF,所以 F = G F=G F=G,於是 F F F也是非減、右連續、取值在 [ 0 , 1 ] [0,1] [0,1]上的函式。

因為 F n F_n Fn是緊的, ∀ ϵ > 0 , ∃ M > 0 \forall \epsilon>0,\exists M>0 ϵ>0,M>0 sup ⁡ n P ( ∣ X n ∣ > M ) < ϵ sup ⁡ n ( F n ( − M ) + 1 − F n ( M ) ) < ϵ \sup_nP(|X_n| >M)<\epsilon \\ \sup_n (F_n(-M)+1-F_n(M))<\epsilon nsupP(Xn>M)<ϵnsup(Fn(M)+1Fn(M))<ϵ

不妨假設 M M M是一個連續點(分佈函式的連續點是稠密的),如果 x > M x>M x>M,則
F ( x ) ≥ F ( M ) = lim ⁡ F n k ( M ) ≥ 1 − ϵ F(x) \ge F(M) = \lim F_{n_k}(M) \ge 1-\epsilon F(x)F(M)=limFnk(M)1ϵ

於是 lim ⁡ x → ∞ F ( x ) = 1 \lim_{x \to \infty} F(x) = 1 limxF(x)=1,類似地可以說明 lim ⁡ x → − ∞ F ( x ) = 0 \lim_{x \to -\infty}F(x) = 0 limxF(x)=0

⇒ \Rightarrow :假設 F n F_n Fn不緊, ∃ ϵ > 0 \exists \epsilon>0 ϵ>0 ∀ M > 0 \forall M>0 M>0 sup ⁡ n P ( ∣ X n ∣ > M ) > ϵ \sup_n P(|X_n|>M)>\epsilon supnP(Xn>M)>ϵ,也就是對於每一個 M M M,我們總是可以找到一個 F n M F_{n_M} FnM,使得
sup ⁡ n ( F n M ( − M ) + 1 − F n M ( M ) ) > ϵ \sup_n (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon nsup(FnM(M)+1FnM(M))>ϵ

根據Helly定理,我們總是可以找到一個收斂的子列,基於它的極限可以構造一個L-S測度,我們記它的極限為 F F F,給定 l < M l<M l<M,且 l l l也是連續點,則
F ( − l ) + ( 1 − F ( l ) ) = lim ⁡ ( F n M ( − M ) + 1 − F n M ( M ) ) > ϵ F(-l)+(1-F(l)) = \lim (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon F(l)+(1F(l))=lim(FnM(M)+1FnM(M))>ϵ

於是根據極限的保號性,
lim ⁡ l F ( − l ) + ( 1 − F ( l ) ) > ϵ \lim_{l}F(-l)+(1-F(l)) >\epsilon llimF(l)+(1F(l))>ϵ

這與基於 F F F可以構造一個L-S測度矛盾。


在上面的定理中,我們證明緊性的方法是反證法,緊性不成立可以匯出與Helly定理矛盾的結果,於是我們可以得到緊性。但反證法在實際問題的應用中比較麻煩,我們希望匯出一些更“好用”的結果。

緊性的充分條件 sup ⁡ n E ∣ X n ∣ α < ∞ , ∀ α > 0 \sup_n E|X_n|^{\alpha}<\infty,\forall \alpha>0 supnEXnα<,α>0

說明

μ n ( [ − M , M ] C ) = P ( ∣ X n ∣ > M ) = P ( ∣ X n ∣ α > M α ) ≤ E ∣ X n ∣ α M α ≤ sup ⁡ n E ∣ X n ∣ α M α \mu_n([-M,M]^C) = P(|X_n|>M) = P(|X_n|^{\alpha}>M^{\alpha}) \\ \le \frac{E|X_n|^{\alpha}}{M^{\alpha}} \le \frac{\sup_n E|X_n|^{\alpha}}{M^{\alpha}} μn([M,M]C)=P(Xn>M)=P(Xnα>Mα)MαEXnαMαsupnEXnα

M α > c o n s t . / ϵ M^{\alpha}>const. / \epsilon Mα>const./ϵ即可。

相關文章