隨機過程複習筆記

ncepu_Chen發表於2021-01-05

ch0 預備知識

分佈

  • 泊松分佈:

    • 概率密度函式:
      f ( n , λ ) = e − λ λ k k ! n = 1 , 2 , . . . f(n, \lambda) = e^{-\lambda} \frac{\lambda^k}{k!} \qquad n=1,2,... f(n,λ)=eλk!λkn=1,2,...

    • E = λ , D = λ E=\lambda,D=\lambda E=λ,D=λ

  • 指數分佈:

    • 概率密度函式
      f ( x , λ ) = { λ e − λ x , x ≥ 0 0 , x < 0 f(x,\lambda) = \left\{ \begin{array}{ll}\lambda e^{-\lambda x} , & x \geq 0 \\0, & x<0\end{array} \right. f(x,λ)={λeλx,0,x0x<0

    • E = 1 λ , D = 1 λ 2 E=\frac{1}{\lambda},D=\frac{1}{\lambda^2} E=λ1,D=λ21

全概率公式和全期望公式

  • 全概率公式:

    P ( B ) = ∑ k = 1 n P ( B ∣ A k ) P ( A k ) P(B)=\sum_{k=1}^{n} P\left(B \mid A_{k}\right) P\left(A_{k}\right) P(B)=k=1nP(BAk)P(Ak)
    推廣:

    • Y Y Y離散時:
      P ( A ) = ∑ j P ( A ∣ Y = y j ) P ( Y = y j ) P(A) = \sum_{j} P(A|Y=y_j) P(Y=y_j) P(A)=jP(AY=yj)P(Y=yj)

    • Y Y Y連續時:
      P ( A ) = ∫ − ∞ + ∞ P ( A ∣ Y = y j ) f Y ( y ) d y P(A) = \int_{-\infty}^{+\infty} P(A|Y=y_j) f_Y(y) dy P(A)=+P(AY=yj)fY(y)dy

  • 全期望公式

    • Y Y Y離散時:
      E ( X ) = ∑ j E ( X ∣ y j ) P ( Y = y j ) E(X) = \sum_j E(X|y_j) P(Y=y_j) E(X)=jE(Xyj)P(Y=yj)

    • Y Y Y連續時:
      E ( X ) = inf ⁡ − ∞ + ∞ E ( X ∣ y ) f Y ( y ) d y E(X) = \inf_{-\infty}^{+\infty} E(X|y) f_Y(y) dy E(X)=inf+E(Xy)fY(y)dy

Γ \Gamma Γ函式

Γ \Gamma Γ函式表示式:
Γ ( α ) = ∫ 0 + ∞ e − x x α − 1 d x \Gamma(\alpha) = \int_0^{+\infty} e^{-x} x^{\alpha-1} dx Γ(α)=0+exxα1dx
初值:
Γ ( 1 ) = 1 , Γ ( 1 2 ) = ( π ) \Gamma(1) = 1, \quad \Gamma(\frac{1}{2})=\sqrt{(\pi)} Γ(1)=1,Γ(21)=(π)
遞推關係:
Γ ( n ) = ( n − 1 ) ! \Gamma(n) = (n-1)! Γ(n)=(n1)!

ch1 隨機過程的基本概念

§2.3 隨機過程的數字特徵

給定隨機過程 X T = { X ( t ) , t ∈ T } X_T=\{ X(t), t \in T \} XT={X(t),tT},定義數字特徵如下:

  • 均值函式:
    m x ( t ) ≜ E [ X ( t ) ] m_x(t) \triangleq E[X(t)] mx(t)E[X(t)]

  • 自相關函式:
    R X ( s , t ) ≜ E [ X ( s ) , X ( t ) ] R_X(s,t) \triangleq E[X(s), X(t)] RX(s,t)E[X(s),X(t)]

  • 自協方差函式:
    B X ( s , t ) ≜ C o v [ X ( s ) , x ( t ) ] = R X ( s , t ) − m X ( s )   m X ( t ) B_X(s,t) \triangleq Cov[X(s), x(t)] = R_X(s,t) - m_X(s) \, m_X(t) BX(s,t)Cov[X(s),x(t)]=RX(s,t)mX(s)mX(t)

  • 方差函式:
    D X ( t ) ≜ D [ X ( t ) ] = E [ ( X − E ( X ) ) 2 ] D_X(t) \triangleq D[X(t)] = E[(X - E(X))^2] DX(t)D[X(t)]=E[(XE(X))2]

  • 均方差函式:
    σ X ( t ) = D X ( t ) \sigma_X (t) = \sqrt{D_X(t)} σX(t)=DX(t)

ch3 泊松過程

§3.1 泊松過程的定義

  • 計數過程: 若 N ( t ) N(t) N(t)表示在 ( 0 , t ] (0, t] (0,t]內事件A出現的總次數,則稱隨機過程 { N ( t ) , t ≥ 0 } \{N(t), t \geq 0\} {N(t),t0}為計數過程.

  • 獨立增量過程: 對任意 t 1 < t 2 ≤ t 3 < t 4 ∈ T t_1 < t_2 \leq t_3 < t_4 \in T t1<t2t3<t4T, X ( t 2 ) − X ( t 1 ) X(t_2)-X(t_1) X(t2)X(t1) X ( t 4 ) − X ( t 3 ) X(t_4)-X(t_3) X(t4)X(t3)相互獨立,則稱隨機過程 X ( t ) X(t) X(t)為獨立增量過程.

  • 平穩增量過程: 對任意 s , t , h ∈ T s,t,h \in T s,t,hT, X ( t + h ) − x ( s + h ) X(t+h)-x(s+h) X(t+h)x(s+h) X ( t ) − X ( s ) X(t)-X(s) X(t)X(s)具有相同的分佈,則稱隨機過程 X ( t ) X(t) X(t)為平穩增量過程.

  • 泊松過程: 稱計數過程 { X ( t ) , t ≥ 0 } \{X(t),t \geq 0 \} {X(t)t0}是泊松過程,如果 ( t ) (t) (t)滿足:

    1. X ( 0 ) = 0 X(0)=0 X(0)=0

    2. X ( t ) X(t) X(t)是獨立增量過程

    3. 在任一長度為 t t t的區間中,事件A發生的次數服從引數 λ t > 0 \lambda t > 0 λt>0的泊松分佈,即對任意 s , t ≥ 0 s, t \geq 0 s,t0,有:
      P { X ( t + s ) − X ( s ) = n } = e − λ t ( λ t ) n n ! n = 0 , 1 , 2 , . . . P\{ X(t+s) - X(s) = n \} = e^{- \lambda t} \frac{(\lambda t)^n}{n!} \qquad n=0,1,2,... P{X(t+s)X(s)=n}=eλtn!(λt)nn=0,1,2,...

    E [ X ( t ) ] = λ t E[X(t)]=\lambda t E[X(t)]=λt,故 λ = E [ X ( t ) ] t \lambda = \frac{E[X(t)]}{t} λ=tE[X(t)]表示過程的強度

§3.2 泊松過程的性質

  • 數字特徵: 設 { X ( t ) , t ≥ 0 } \{X(t),t \geq 0 \} {X(t)t0}是引數為 λ \lambda λ的泊松過程,對任意 t , s ∈ [ 0 , + ∞ ) , s < t t , s \in [0, +\infty), s<t t,s[0,+),s<t,有:
    E [ X ( t ) − X ( s ) ] = D [ X ( t ) − X ( s ) ] = λ ( t − s ) E[X(t)-X(s)] = D[X(t) - X(s)] = \lambda (t-s) E[X(t)X(s)]=D[X(t)X(s)]=λ(ts)

    m X ( t ) = E [ X ( t ) ] = E [ X ( t ) − X ( 0 ) ] = λ t m_X(t) = E[X(t)] = E[X(t)-X(0)] = \lambda t mX(t)=E[X(t)]=E[X(t)X(0)]=λt

    σ X 2 ( t ) = D [ X ( t ) ] = D [ X ( t ) − X ( 0 ) ] = λ t \sigma_X^2(t) = D[X(t)] = D[X(t)-X(0)] = \lambda t σX2(t)=D[X(t)]=D[X(t)X(0)]=λt

    R X ( s , t ) = E [ X ( s ) , X ( t ) ] = λ s ( λ t + 1 ) R_X(s,t) = E[X(s), X(t)] = \lambda s (\lambda t + 1) RX(s,t)=E[X(s),X(t)]=λs(λt+1)

    B X ( s , t ) = R X ( s , t ) − m X ( s ) m X ( t ) = λ s B_X(s,t) = R_X(s,t) - m_X(s) m_X(t) = \lambda s BX(s,t)=RX(s,t)mX(s)mX(t)=λs

  • 等待(到達)時間 W n W_n Wn與時間間隔 T n T_n Tn的分佈:

    在這裡插入圖片描述

    W n W_n Wn表示第 n n n個事件的等待(到達)時間, T n T_n Tn表示第 n n n個事件與第 n − 1 n-1 n1個事件出現的時間間隔

    • 到達時間 W n W_n Wn服從 Γ \Gamma Γ分佈,其概率密度函式:
      f W n ( t ) = { λ e − λ t ( λ t ) n − 1 ( n − 1 ) ! , t ≥ 0 0 , t < 0 f_{W_n}(t)=\left\{\begin{array}{ll}\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}, & t \geq 0 \\0, & t<0\end{array}\right. fWn(t)={λeλt(n1)!(λt)n1,0,t0t<0

    • 時間間隔 T n T_n Tn的分佈:
      F T n ( t ) = P { T n ≤ t } = { 1 − e − λ t , t ≥ 0 0 , t < 0 F_{T_{n}}(t)= P\{T_{n} \leq t \}= \left\{\begin{array}{ll} 1-e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. FTn(t)=P{Tnt}={1eλt,0,t0t<0

    • 到達時間的條件分佈: 已知 [ 0 , t ] [0,t] [0,t]內事件 A A A已經發生1次,則這一事件到達時間 W 1 W_1 W1的條件分佈密度函式:
      f W 1 ( s ∣ N ( t ) = 1 ) = { 1 t , 0 < s < t 0 , 其 他 f_{W_1}(s | N(t)=1)= \left\{\begin{array}{ll} \frac{1}{t}, & 0<s<t \\ 0, & 其他 \end{array}\right. fW1(sN(t)=1)={t1,0,0<s<t

    • 到達時間的條件分佈: 已知 [ 0 , t ] [0,t] [0,t]內事件 A A A已經發生 n n n次,則第 k k k次事件的發生時間 W k W_k Wk的條件概率密度函式:
      f W k ( s ∣ N ( t ) = n ) = { n ! ( k − 1 ) ! ( n − k ) ! s k − 1 ( t − s ) n − k t n 0 < s < t 0 其 它 f_{W_{k}}(s | N(t)=n)= \left\{\begin{array}{cc} \frac{n !}{(k-1) !(n-k) !} \frac{s^{k-1}(t-s)^{n-k}}{t^{n}} & 0<s<t \\ 0 & 其它 \end{array}\right. fWk(sN(t)=n)={(k1)!(nk)!n!tnsk1(ts)nk00<s<t

    • 到達時間的條件聯合分佈: 已知 [ 0 , t ] [0,t] [0,t]內事件 A A A已經發生 n n n次,則這 n n n次到達時間 W 1 , W 2 , . . . , W n W_1,W_2,...,W_n W1,W2,...,Wn的聯合條件分佈密度函式:
      f W 1 , W 2 , . . . , W n ( t 1 , t 2 , ⋯   , t n ∣ N ( t ) = n ) = { n ! t n , 0 < t 1 < ⋯ < t n < t 0 , 其 他 f_{W_1,W_2,...,W_n} (t_{1}, t_{2}, \cdots, t_{n} | N(t)=n)=\left\{\begin{array}{ll} \frac{n !}{t^{n}}, & 0<t_{1}<\cdots<t_{n}<t \\ 0, & 其他 \end{array}\right. fW1,W2,...,Wn(t1,t2,,tnN(t)=n)={tnn!,0,0<t1<<tn<t

§3.3 非齊次泊松過程

  • 定義: 稱計數過程 { X ( t ) , t ≥ 0 } \{X(t),t \geq 0 \} {X(t)t0}是非齊次泊松過程,如果 ( t ) (t) (t)滿足:

    1. X ( 0 ) = 0 X(0)=0 X(0)=0

    2. X ( t ) X(t) X(t)是獨立增量過程

    3. 在任一長度為 t t t的區間中,事件A發生的次數服從引數為 ∫ s s + t λ ( u ) d u \int_s^{s+t}\lambda(u)du ss+tλ(u)du的泊松分佈,即對任意 s , t ≥ 0 s, t \geq 0 s,t0,有:
      X ( t + s ) − X ( s ) ∼ π ( ∫ s s + t λ ( u ) d u ) X(t+s) - X(s) \sim \pi(\int_s^{s+t} \lambda(u)du) X(t+s)X(s)π(ss+tλ(u)du)

    λ ( t ) \lambda(t) λ(t)稱為速率函式

§3.4 複合泊松過程

  • 定義: 設 { N ( t ) , t ≥ 0 } \{N(t),t \geq 0 \} {N(t)t0}是泊松過程, { Y k , k = 1 , 2 , . . } \{Y_k,k=1,2,.. \} {Ykk=1,2,..}是一系列獨立同分布的隨機變數,則稱
    X ( t ) = ∑ n = 1 N ( t ) Y n X(t) = \sum_{n=1}^{N(t)} Y_n X(t)=n=1N(t)Yn
    為複合泊松過程.

  • 性質:

    1. { X ( t ) , t ≥ 0 } \{X(t),t \geq 0 \} {X(t)t0}是獨立增量過程
    2. { N ( t ) , t ≥ 0 } \{N(t),t \geq 0 \} {N(t)t0}是齊次泊松過程,則 { X ( t ) , t ≥ 0 } \{X(t),t \geq 0 \} {X(t)t0}是平穩增量過程
  • 數字特徵:

    • E ( X ) = E ( N ) E ( Y 1 ) E(X) = E(N) E(Y_1) E(X)=E(N)E(Y1)
    • D ( X ) = E ( N ) D ( Y 1 ) + D ( N ) E 2 ( Y 1 ) D(X) = E(N)D(Y_1) + D(N)E^2(Y_1) D(X)=E(N)D(Y1)+D(N)E2(Y1)

    { N ( t ) , t ≥ 0 } \{N(t),t \geq 0 \} {N(t)t0}是齊次泊松過程,則:

    • E X ( t ) = E N ( t ) E ( Y 1 ) = λ t E ( Y 1 ) EX(t) = EN(t)E(Y_1) = \lambda t E(Y_1) EX(t)=EN(t)E(Y1)=λtE(Y1)
    • D X ( t ) = E N ( t ) E ( Y 1 2 ) = λ t E ( Y 1 2 ) DX(t) = EN(t)E(Y_1^2)=\lambda t E(Y_1^2) DX(t)=EN(t)E(Y12)=λtE(Y12)
    • E ( X ) = E [ E ( X ∣ N ) ] = E [ N E ( Y ! ) ] = E ( N ) E ( Y 1 ) E(X)=E[E(X|N)]=E[NE(Y_!)]=E(N)E(Y_1) E(X)=E[E(XN)]=E[NE(Y!)]=E(N)E(Y1)

ch4 馬爾可夫過程

相關文章