UA MATH567 高維統計I 概率不等式8 亞指數範數

類似亞高斯範數，我們也可以定義隨機變數的亞指數範數（sub-exponential norm）：
∥ X ∥ ψ 1 = inf ⁡ { t > 0 : E e ∣ X ∣ / t ≤ 2 } \left\|X \right\|_{\psi_1} = \inf\{t>0:Ee^{|X|/t} \le 2\} ∥X∥ψ1​​=inf{t>0:Ee∣X∣/t≤2}

關於這個定義符合範數的條件的證明讀者可以自行完成，可以參考亞高斯範數的證明以及更一般的，Orlicz範數的證明。

亞指數範數與亞高斯範數的關係

1. $X$是亞高斯隨機變數等價於$X^2$是亞指數隨機變數，並且${\Vert X^2\Vert }_{{\psi }_1}={\Vert X\Vert }_{{\psi }_2}^2$
2. $X,Y$是亞高斯隨機變數，則$XY$是亞指數隨機變數，並且${\Vert XY\Vert }_{{\psi }_1}\le {\Vert X\Vert }_{{\psi }_2}{\Vert Y\Vert }_{{\psi }_2}$

證明
第一個結論。我們直接寫出定義，
∥ X 2 ∥ ψ 1 = inf ⁡ { t : E e X 2 / t ≤ 2 } ∥ X ∥ ψ 2 2 = [ inf ⁡ { t : E e X 2 / t 2 ≤ 2 } ] 2 = inf ⁡ { t 2 : E e X 2 / t 2 ≤ 2 } \left\|X^2 \right\|_{\psi_1}=\inf\{t:Ee^{X^2/t} \le 2\} \\ \left\|X \right\|_{\psi_2}^2 = \left[ \inf\{t:Ee^{X^2/t^2} \le 2\} \right]^2=\inf\{t^2:Ee^{X^2/t^2} \le 2\} ∥∥​X2∥∥​ψ1​​=inf{t:EeX2/t≤2}∥X∥ψ2​2​=[inf{t:EeX2/t2≤2}]2=inf{t2:EeX2/t2≤2}

所以
$${\Vert X^2\Vert }_{{\psi }_1}={\Vert X\Vert }_{{\psi }_2}^2$$

第二個結論。不妨假設${\Vert X\Vert }_{{\psi }_2}={\Vert Y\Vert }_{{\psi }_2}=1$，因為$X,Y$是亞高斯分佈，根據亞高斯性4，$K_4=1$，則
$$E{e}^{X^2}\le 2,E{e}^{Y^2}\le 2$$

連用兩次Young不等式，
$$E{e}^{|XY|}\le E{e}^{\frac{X^2}{2}+\frac{Y^2}{2}}=E{e}^{\frac{X^2}{2}}{e}^{\frac{Y^2}{2}}\le \frac{1}{2}E[e^{X^2}+e^{Y^2}]\le 2$$

所以$XY$服從亞指數分佈。

例 指數分佈是亞指數分佈
假設$X\sim EXP(\lambda )$，則
$$P(X\ge t)=e^{-\lambda t},\forall t\ge 0$$

顯然這個服從亞指數分佈尾部概率的性質。我們計算
$$E{e}^{|X|/t}={\int }_0^{\infty }{e}^{\frac{x}{t}}\lambda e^{-\lambda x}dx={\int }_0^{\infty }\lambda e^{(\frac{1}{t}-\lambda )x}dx=-\frac{\lambda }{\frac{1}{t}-\lambda }$$

當$\lambda >1/t$時收斂。考慮
$$-\frac{\lambda }{\frac{1}{t}-\lambda }\le 2\Rightarrow t\ge \frac{2}{\lambda }$$

於是
$${\Vert X\Vert }_{{\psi }_1}=\frac{2}{\lambda }$$