UA MATH563 概率論的數學基礎 中心極限定理7 Kolmogorov extension theorem及其擴充套件
UA MATH563 概率論的數學基礎 中心極限定理7 Kolmogorov extension theorem及其擴充套件
上一講為了構造包含無限個獨立隨機變數的序列,我們使用了Kolmogorov extension theorem:
如果在 ( R n , B ( R n ) ) (\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n)) (Rn,B(Rn))上有概率測度 ν n \nu_n νn,且 ν n \nu_n νn是一致的(consistent),即 ν n + 1 ( ( a 1 , b 1 ] × ⋯ × ( a n , b n ] × R ) = ν n ( ( a 1 , b 1 ] × ⋯ × ( a n , b n ] ) \nu_{n+1}((a_1,b_1] \times \cdots \times (a_n,b_n] \times \mathbb{R})=\nu_n((a_1,b_1] \times \cdots \times (a_n,b_n] ) νn+1((a1,b1]×⋯×(an,bn]×R)=νn((a1,b1]×⋯×(an,bn])那麼我們可以在可測空間 ( R ∞ , B ( R ∞ ) ) (\mathbb{R}^{\infty},\mathcal{B}(\mathbb{R}^{\infty})) (R∞,B(R∞))上構造唯一一個概率測度 P P P,它滿足 P ( { w : w i ∈ ( a i , b i ] , 1 ≤ i ≤ n } ) = ν n ( ( a 1 , b 1 ] × ⋯ × ( a n , b n ] ) P(\{w:w_i \in (a_i,b_i],1 \le i \le n\}) = \nu_n((a_1,b_1] \times \cdots \times (a_n,b_n] ) P({w:wi∈(ai,bi],1≤i≤n})=νn((a1,b1]×⋯×(an,bn])
這一講我們介紹Kolmogorov extension theorem的證明。另外,基於這個定理,我們只能在樣本空間是無窮維的歐氏空間的情況下定義概率,我們希望在其他的無窮維空間上也可以定義概率,於是我們需要對Kolmogorov extension theorem進行擴充套件,這一講也會介紹一些相關的推廣。
Kolmogorov擴充套件定理的證明
Kolmogorov擴充套件定理有很多版本的證明,這裡介紹經典證明的思路以及一種新的證明思路,並附上參考文獻。
版本一:基於有限維的測度在無窮維歐氏空間上定義pre-measure,然後用pre-measure匯出外測度,再用Caratheodory擴張的思路得到測度(這個是經典的實分析構造測度的思路,版本一超連結點進去的證明比較長,這裡有一個簡化版本,以及還有一個更詳細的版本)
版本二:考慮到 ∣ 2 N ∣ = ∣ R ∣ |2^{\mathbb{N}}|=|\mathbb{R}| ∣2N∣=∣R∣,我們可以在自然數集的冪集中討論問題,也就是用以 2 2 2為底的冪級數代替實數進行分析,雖然得到測度還是需要Caratheodory擴張,但這個版本的證明是最簡潔的。
推廣1 standard Borel空間 (nice spaces)
考慮可測空間
(
S
,
S
)
(S,\mathcal{S})
(S,S),稱它是標準Borel空間如果存在從
S
S
S到
R
\mathbb{R}
R的雙射
ϕ
\phi
ϕ,並且
ϕ
,
ϕ
−
1
\phi,\phi^{-1}
ϕ,ϕ−1都是可測的,這樣的空間也被稱為nice space。Kolmogorov extension theorem適用於這樣的空間。
推廣2 離散型隨機變數
Kolmogorov extension theorem適用於離散型隨機變數。
推廣3 not nice spaces
可以使用Ionescu-Tulcea theorem作為Kolmogorov extension theorem的推廣。這裡僅給出Ionescu-Tulcea theorem的內容。
首先我們引入一個概念,Markov kernel,可以把它理解為Markov鏈的狀態轉移矩陣推廣到用對映表示的一種更一般的工具。我們回顧一下狀態轉移矩陣, [ p i j ] [p_{ij}] [pij]表示從狀態 j j j轉移到狀態 i i i的概率,抽象成對映的話 j , i j,i j,i就是輸入,輸出是一個概率,有了這個思路之後我們嘗試給出Markov kernel的正式定義:
假設 ( X , A ) , ( Y , B ) (X,\mathcal{A}),(Y,\mathcal{B}) (X,A),(Y,B)是兩個可測空間,定義對映 κ : B × X → [ 0 , 1 ] \kappa:\mathcal{B} \times X \to [0,1] κ:B×X→[0,1],滿足
- 給定 B ∈ B B \in \mathcal{B} B∈B, x → κ ( B , x ) x \to \kappa(B,x) x→κ(B,x)是 A \mathcal{A} A-可測的;
- 給定 x ∈ X x \in X x∈X, B → κ ( B , x ) B \to \kappa(B,x) B→κ(B,x)是一個概率測度;
直白的說 κ ( B , x ) \kappa(B,x) κ(B,x)應該表示從狀態 x x x轉移到狀態集 B B B的概率,稱這樣的 κ \kappa κ是一個Markov kernel。
推廣2指出Kolmogorov extension theorem適用於離散型隨機變數,因此也就適用於Markov鏈,那麼如果我們把Markov鏈推廣到了Markov kernel,並給出基於Markov kernel進行extension的做法,我們就可以對一般的概率空間也進行與Kolmogorov extension類似的操作,使之能推廣到無窮維了。這就是Ionescu-Tulcea theorem的基本思路。下面我們敘述一下定理內容:
假設
(
Ω
0
,
A
0
,
P
0
)
(\Omega_0,\mathcal{A}_0,P_0)
(Ω0,A0,P0)是一個概率空間,
(
Ω
i
,
A
i
)
(\Omega_i,\mathcal{A}_i)
(Ωi,Ai)是一系列可測空間,
i
≥
1
i \ge 1
i≥1,對每一個這樣的可測空間,我們都可以定義一個
(
Ω
i
−
1
,
A
i
−
1
)
(\Omega^{i-1},\mathcal{A}^{i-1})
(Ωi−1,Ai−1)與
(
Ω
i
,
A
i
)
(\Omega_i,\mathcal{A}_i)
(Ωi,Ai)之間的Markov kernel
κ
i
\kappa_i
κi,其中
Ω
i
−
1
=
∏
k
=
0
i
−
1
Ω
k
,
A
i
−
1
=
⊗
k
=
0
i
−
1
A
k
\Omega^{i-1} = \prod_{k=0}^{i-1}\Omega_k,\mathcal{A}^{i-1} = \otimes_{k=0}^{i-1} \mathcal{A}_k
Ωi−1=k=0∏i−1Ωk,Ai−1=⊗k=0i−1Ak
對
σ
\sigma
σ-代數的乘積不太熟悉的讀者可以參考乘積測度。則對每一個
(
Ω
i
,
A
i
)
(\Omega_i,\mathcal{A}_i)
(Ωi,Ai),存在一個概率測度
P
i
=
P
0
⊗
(
⊗
k
=
1
i
κ
i
)
P_i = P_0 \otimes (\otimes_{k=1}^i \kappa_i)
Pi=P0⊗(⊗k=1iκi)
並且在無窮維乘積空間
(
∏
k
=
0
∞
Ω
k
,
⊗
k
=
0
∞
A
k
)
(\prod_{k=0}^{\infty}\Omega_k,\otimes_{k=0}^{\infty}\mathcal{A}_k)
(∏k=0∞Ωk,⊗k=0∞Ak)上存在唯一的概率測度,它滿足
P
(
A
×
∏
k
=
i
+
1
∞
Ω
k
)
=
P
i
(
A
)
,
∀
A
∈
A
i
P(A \times \prod_{k=i+1}^{\infty} \Omega_k) = P_i(A),\forall A \in \mathcal{A}^i
P(A×k=i+1∏∞Ωk)=Pi(A),∀A∈Ai
相關文章
- UA MATH563 概率論的數學基礎 中心極限定理6 獨立隨機變數的和與Kolmogorov擴充套件定理H5隨機變數Go套件
- UA MATH563 概率論的數學基礎 中心極限定理14 Kolmogorov maximal inequalityH5Go
- UA MATH563 概率論的數學基礎 中心極限定理15 Kolmogorov 0-1律H5Go
- UA MATH563 概率論的數學基礎 中心極限定理5 Renyi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理23 概率測度族的緊性H5
- UA MATH563 概率論的數學基礎 中心極限定理12 強大數定律 版本2:Etemadi定理H5
- UA MATH563 概率論的數學基礎 中心極限定理8 弱大數定律 Bernstein多項式逼近H5
- UA MATH563 概率論的數學基礎 鞅論初步8 鞅收斂定理H5
- UA MATH563 概率論的數學基礎 中心極限定理4 獨立一元隨機變數的性質H5隨機變數
- UA MATH563 概率論的數學基礎 鞅論初步9 分支過程簡介H5
- 數論入門基礎(同餘定理/費馬小定理/擴充套件歐幾里德演算法/中國剩餘定理)套件演算法
- 【數學基礎篇】--詳解人工智慧之數學 積分學,概率空間,大數定律和中心極限定理人工智慧
- WCF擴充套件:行為擴充套件Behavior Extension套件
- GNOME Shell Extension常用擴充套件套件
- hdu Yet another end of the world(擴充套件歐幾里得定理推論)套件
- 擴充套件中國剩餘定理套件
- 數論分塊擴充套件套件
- Flutter——Dart Extension擴充套件方法的使用FlutterDart套件
- [WPF]標記擴充套件(Markup Extension)套件
- javax.mail Java Extension(擴充套件)JavaAI套件
- 資料中心基礎設施是應該縱向擴充套件還是橫向擴充套件?套件
- 機器學習數學複習 - 1.概率論基礎機器學習
- 擴充套件中國剩餘定理(EXCRT)學習筆記套件筆記
- 擴充套件中國剩餘定理詳解套件
- 大數定律與中心極限定理
- 擴充套件歐幾里得的幾個定理以及證明套件
- Laravel深入學習7 – 框架的擴充套件Laravel框架套件
- iOS Extension擴充套件開啟宿主應用iOS套件
- Kotlin基礎 — 擴充套件函式Kotlin套件函式
- POJ1061擴充套件歐幾里得定理套件
- 數論學習筆記 (4):擴充套件歐幾里得演算法筆記套件演算法
- C#基礎系列:擴充套件方法的使用C#套件
- EFCore之SQL擴充套件元件BeetleX.EFCore.ExtensionSQL套件元件
- Objective-C 類別(category)和擴充套件(Extension)ObjectGo套件
- [擴充套件]laravel-xlswriter 一款基於xlswriter的laravel擴充套件包 excel極速讀寫套件LaravelExcel
- PHP7擴充套件PHP套件
- JavaSE基礎:擴充套件Java 8 日期操作Java套件
- 機器學習面試基礎知識 & 擴充套件-01機器學習面試套件