用簡單易懂的例子解釋隱馬爾可夫模型

隱含的身體狀態 = { 健康 , 發燒 }

可觀察的感覺狀態 = { 正常 , 冷 , 頭暈 }

預判的身體狀態初始概率分佈 = { 健康：0.6 , 發燒：0.4 }

身體健康狀態的轉換概率分佈 = {
健康->健康：0.7 ,
健康->發燒：0.3 ,
發燒->健康：0.4 ,
發燒->發燒：0.6
}

在相應健康狀況條件下，感覺狀態的概率分佈 = {
健康，正常：0.5 ，冷 ：0.4 ，頭暈： 0.1 ；
發燒，正常：0.1 ，冷 ：0.3 ，頭暈： 0.6
}
連續三天的身體感覺依次是： 正常、冷、頭暈 。

求：這三天的身體健康狀態變化的過程是怎麼樣的？

(1) 初始情況：

P(第一天健康) = 0.6，P(第一天發燒)=0.4。

(2) 求第一天的身體情況：

計算在感覺正常的情況下最可能的身體狀態：

P(第一天健康，感覺正常) = P(正常|第一天健康) * P(第一天健康) = 0.5 * 0.6 = 0.3

P(第一天發燒，感覺正常) = P(正常|第一天發燒) * P(第一天發燒) = 0.1 * 0.4 = 0.04

那麼就可以認為第一天最可能的身體狀態是：健康。

(3) 求第二天的身體狀況：

計算在感覺冷的情況下最可能的身體狀態。

P(第二天健康，感覺冷) = P(感覺冷|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感覺冷|第二天健康) * P(第二天健康|第一天發燒) * P(第一天發燒) = 0.4 * 0.7 * 0.6 + 0.4 * 0.4 * 0.4 = 0.232

P(第二天發燒，感覺冷) = P(感覺冷|第二天發燒) * P(第二天發燒|第一天健康) * P(第一天健康) + P(感覺冷|第二天發燒) * P(第二天發燒|第一天發燒) * P(第一天發燒) = 0.3 * 0.3 * 0.6 + 0.3 * 0.6 * 0.4 = 0.126

那麼可以認為，第二天最可能的狀態是：健康。

(4) 求第三天的身體狀態：

計算在感覺頭暈的情況下最可能的身體狀態。

P(第三天健康，感覺頭暈) = P(感覺頭暈|第三天健康) * P(第三天健康|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感覺頭暈|第三天健康) * P(第三天健康|第二天健康) * P(第二天健康|第一天發燒) * P(第一天發燒) + P(感覺頭暈|第三天健康) * P(第三天健康|第二天發燒) * P(第二天發燒|第一天健康) * P(第一天健康) + P(感覺頭暈|第三天健康) * P(第三天健康|第二天發燒) * P(第二天發燒|第一天發燒) * P(第一天發燒) = 0.1 * 0.7 * 0.7 * 0.6 + 0.1 * 0.7 * 0.4 * 0.4 + 0.1 * 0.4 * 0.3 * 0.6 + 0.1 * 0.4 * 0.6 * 0.4 = 0.0574

P(第三天發燒，感覺頭暈) = P(感覺頭暈|第三天發燒) * P(第三天發燒|第二天健康) * P(第二天健康|第一天健康) * P(第一天健康) + P(感覺頭暈|第三天發燒) * P(第三天發燒|第二天健康) * P(第二天健康|第一天發燒) * P(第一天發燒) + P(感覺頭暈|第三天發燒) * P(第三天發燒|第二天發燒) * P(第二天發燒|第一天健康) * P(第一天健康) + P(感覺頭暈|第三天發燒) * P(第三天發燒|第二天發燒) * P(第二天發燒|第一天發燒) * P(第一天發燒) = 0.6 * 0.3 * 0.7 * 0.6 + 0.6 * 0.3 * 0.4 * 0.4 + 0.6 * 0.6 * 0.3 * 0.6 + 0.6 * 0.6 * 0.6 * 0.4 = 0.2556

那麼可以認為，第三天最可能的狀態是：發燒。

用數學公式表達

初始概率分佈：

$$\pi (0)={\left[\begin{array}{cc}0.6& 0.4\end{array}\right]}^T$$

狀態轉移概率矩陣：

$$A=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]$$

觀測概率矩陣：

$$B=\left[\begin{array}{ccc}0.5& 0.4& 0.1\\ 0.1& 0.3& 0.6\end{array}\right]$$

實際運算：

$$\begin{gathered} \pi (i+1)=A\pi (i) \\ B(i+1)=AB(i) \end{gathered}$$

例：

$$\begin{gathered} \pi (1)=A\pi (0)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.6\\ 0.4\end{array}\right]=\left[\begin{array}{c}0.54\\ 0.48\end{array}\right] \\ \pi (2)=A\pi (1)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.54\\ 0.48\end{array}\right]=\left[\begin{array}{c}0.522\\ 0.504\end{array}\right] \\ \pi (3)=A\pi (2)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{c}0.522\\ 0.504\end{array}\right]=\left[\begin{array}{c}0.5166\\ 0.5112\end{array}\right] \end{gathered}$$

和
$$\begin{gathered} B(1)=AB(0)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.5& 0.4& 0.1\\ 0.1& 0.3& 0.6\end{array}\right]=\left[\begin{array}{ccc}0.38& 0.37& 0.25\\ 0.26& 0.34& 0.4\end{array}\right] \\ B(2)=AB(1)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.38& 0.37& 0.25\\ 0.26& 0.34& 0.4\end{array}\right]=\left[\begin{array}{ccc}0.344& 0.361& 0.295\\ 0.308& 0.352& 0.34\end{array}\right] \\ B(3)=AB(2)=\left[\begin{array}{cc}0.7& 0.3\\ 0.4& 0.6\end{array}\right]\left[\begin{array}{ccc}0.344& 0.361& 0.295\\ 0.308& 0.352& 0.34\end{array}\right]=\left[\begin{array}{ccc}0.3332& 0.3583& 0.3085\\ 0.3224& 0.3556& 0.322\end{array}\right] \end{gathered}$$

狀態集合 Q = { 1 , 2 , 3 } Q=\{1,2,3\} Q={1,2,3}，觀測集合 V = { 紅 , 白 } V=\{紅,白\} V={紅,白}。

初始概率分佈：
$$\pi (0)={\left[\begin{array}{ccc}0.2& 0.4& 0.4\end{array}\right]}^T$$
狀態轉移概率矩陣：
$$A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right]$$
觀測概率矩陣：
$$B=\left[\begin{array}{cc}0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right]$$
設$T=3$，$O=(紅,白,紅)$，試用前向演算法計算$P(O|\lambda )$。

前向演算法計算：

第一個觀測值是紅，計算在初始概率分佈下，三個狀態觀測到紅的概率分別是：
$$\begin{gathered} {\alpha }_1(1)={\pi }_1{b}_1(o_1)=0.2\ast 0.5=0.1 \\ {\alpha }_1(2)={\pi }_2{b}_2(o_1)=0.4\ast 0.4=0.16 \\ {\alpha }_1(3)={\pi }_3{b}_3(o_1)=0.4\ast 0.7=0.28 \end{gathered}$$

$$\begin{gathered} P(第一個觀測值是紅，初始狀態1)=P(第一個觀測值是紅|初始狀態1)P(初始狀態1)=P(觀測值是紅|狀態1)P(初始狀態1) \\ P(第一個觀測值是紅，初始狀態2)=P(第一個觀測值是紅|初始狀態2)P(初始狀態2)=P(觀測值是紅|狀態2)P(初始狀態2) \\ P(第一個觀測值是紅，初始狀態3)=P(第一個觀測值是紅|初始狀態3)P(初始狀態3)=P(觀測值是紅|狀態3)P(初始狀態3) \end{gathered}$$

$$P(第一個觀測值是紅)=\sum _{i=1}^{3}P(第一個觀測值是紅，初始狀態i)=0.54$$
在第一個觀測值為紅的前提下，轉為狀態1的概率：
$${\beta }_1(1)=\sum _{i=1}^3{\alpha }_1(i)a_{i1}=0.1\ast 0.5+0.16\ast 0.3+0.28\ast 0.2=0.154$$

$$\begin{array}{rl}P(第一個觀測值是紅，第一個狀態是1)& =\sum _{i=1}^{3}P(第一個觀測值是紅|第一個狀態是1)P(第一個狀態是1|初始狀態i)P(初始狀態i)\\ & =\sum _{i=1}^{3}P(第一個觀測值是紅|第一個狀態是1)P(初始狀態i)P(第一個狀態是1|初始狀態i)\\ & =\sum _{i=1}^{3}P(觀測值是紅|狀態1)P(初始狀態i)P(下一個狀態是1|狀態i)\\ & =\sum _{i=1}^{3}P(觀測值是紅,初始狀態i)P(下一個狀態是1|狀態i)\end{array}$$

$$P(第一個觀測值是紅，初始狀態i)P(第一個狀態是1|初始狀態i)=$$

在第一個觀測值為紅的前提下，轉為狀態2的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_1(i)a_{i2}=0.1\ast 0.2+0.16\ast 0.5+0.28\ast 0.3=0.184$$
在第一個觀測值為紅的前提下，轉為狀態3的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_1(i)a_{i2}=0.1\ast 0.3+0.16\ast 0.2+0.28\ast 0.5=0.202$$
所以
$$\pi (1)={\left[\begin{array}{ccc}0.154& 0.184& 0.202\end{array}\right]}^T$$
第二個觀測值為白，計算在上述概率分佈下，三個狀態觀測到白的概率分別是：
$$\begin{gathered} {\alpha }_2(1)={\beta }_1(1)b_1(o_2)=0.154\ast 0.5=0.077 \\ {\alpha }_2(2)={\beta }_1(2)b_2(o_2)=0.184\ast 0.6=0.1104 \\ {\alpha }_2(3)={\beta }_1(3)b_3(o_2)=0.202\ast 0.3=0.0606 \end{gathered}$$
在第一、二個觀測值為紅、白的前提下，轉為狀態1的概率：
$${\beta }_2(1)=\sum _{i=1}^3{\alpha }_2(i)a_{i1}=0.077\ast 0.5+0.1104\ast 0.3+0.0606\ast 0.2=0.08374$$
在第一、二個觀測值為紅、白的前提下，轉為狀態2的概率：
$${\beta }_2(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.077\ast 0.2+0.1104\ast 0.5+0.0606\ast 0.3=0.08878$$
在第一、二個觀測值為紅、白的前提下，轉為狀態3的概率：
$${\beta }_2(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.077\ast 0.3+0.1104\ast 0.2+0.0606\ast 0.5=0.07548$$
所以
$$\pi (2)={\left[\begin{array}{ccc}0.08374& 0.08878& 0.07548\end{array}\right]}^T$$
第三個觀測值為紅，計算在上述概率分佈下，三個狀態觀測到紅的概率分別是：
$$\begin{gathered} {\alpha }_3(1)={\beta }_2(1)b_1(o_1)=0.08374\ast 0.5=0.04187 \\ {\alpha }_3(2)={\beta }_2(2)b_2(o_1)=0.08878\ast 0.4=0.03551 \\ {\alpha }_3(3)={\beta }_2(3)b_3(o_1)=0.07548\ast 0.7=0.05284 \end{gathered}$$
終止：
$$P(O|\lambda )=\sum _{i=1}^3{\alpha }_3(i)=0.13022$$

後向演算法求解觀測序列的概率

狀態集合 Q = { 1 , 2 , 3 } Q=\{1,2,3\} Q={1,2,3}，觀測集合 V = { 紅 , 白 } V=\{紅,白\} V={紅,白}。

初始概率分佈：
$$\pi (0)={\left[\begin{array}{ccc}0.2& 0.4& 0.4\end{array}\right]}^T$$
狀態轉移概率矩陣：
$$A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right]$$
觀測概率矩陣：
$$B=\left[\begin{array}{cc}0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right]$$
設$T=3$，$O=(紅,白,紅)$，試用前向演算法計算$P(O|\lambda )$。

概率分佈初值
$$\pi (3)={\left[\begin{array}{ccc}1& 1& 1\end{array}\right]}^T$$
後向演算法計算：

第三個觀測值是紅，計算在初始概率分佈下，三個狀態觀測到紅的概率分別是：
$$\begin{gathered} {\alpha }_3(1)={\pi }_1{b}_1(o_1)=1\ast 0.5=0.5 \\ {\alpha }_3(2)={\pi }_2{b}_2(o_1)=1\ast 0.4=0.4 \\ {\alpha }_3(3)={\pi }_3{b}_3(o_1)=1\ast 0.7=0.7 \end{gathered}$$
在第三個觀測值為紅的前提下，前一個狀態是1的概率：
$${\beta }_2(1)=\sum _{i=1}^3{\alpha }_3(i)a_{1i}=0.5\ast 0.5+0.4\ast 0.2+0.7\ast 0.3=0.54$$
在第三個觀測值為紅的前提下，前一個狀態是2的概率：
$${\beta }_2(2)=\sum _{i=1}^3{\alpha }_3(i)a_{2i}=0.5\ast 0.3+0.4\ast 0.5+0.7\ast 0.2=0.49$$
在第三個觀測值為紅的前提下，前一個狀態是3的概率：
$${\beta }_2(3)=\sum _{i=1}^3{\alpha }_3(i)a_{3i}=0.5\ast 0.2+0.4\ast 0.3+0.7\ast 0.5=0.57$$
所以
$$\pi (2)={\left[\begin{array}{ccc}0.54& 0.49& 0.57\end{array}\right]}^T$$
第二個觀測值為白，計算在上述概率分佈下，三個狀態觀測到白的概率分別是：
$$\begin{gathered} {\alpha }_2(1)={\beta }_2(1)b_1(o_2)=0.54\ast 0.5=0.27 \\ {\alpha }_2(2)={\beta }_2(2)b_2(o_2)=0.49\ast 0.6=0.294 \\ {\alpha }_2(3)={\beta }_2(3)b_3(o_2)=0.57\ast 0.3=0.171 \end{gathered}$$
在第二、三個觀測值為白、紅的前提下，前一個狀態是1的概率：
$${\beta }_1(1)=\sum _{i=1}^3{\alpha }_2(i)a_{i1}=0.27\ast 0.5+0.294\ast 0.2+0.171\ast 0.3=0.2451$$
在第二、三個觀測值為白、紅的前提下，前一個狀態是2的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.27\ast 0.3+0.294\ast 0.5+0.171\ast 0.2=0.2622$$
在第二、三個觀測值為白、紅的前提下，前一個狀態是3的概率：
$${\beta }_1(3)=\sum _{i=1}^3{\alpha }_2(i)a_{i3}=0.27\ast 0.2+0.294\ast 0.3+0.171\ast 0.5=0.2277$$
所以
$$\pi (1)={\left[\begin{array}{ccc}0.2451& 0.2622& 0.2277\end{array}\right]}^T$$
第一個觀測值為紅，計算在上述概率分佈下，三個狀態觀測到紅的概率分別是：
$$\begin{gathered} {\alpha }_1(1)={\beta }_1(1)b_1(o_1)=0.2451\ast 0.5=0.12255 \\ {\alpha }_1(2)={\beta }_1(2)b_2(o_1)=0.2622\ast 0.4=0.10488 \\ {\alpha }_1(3)={\beta }_1(3)b_3(o_1)=0.2277\ast 0.7=0.15939 \end{gathered}$$
在第一、二、三個觀測值為紅、白、紅的前提下，初始狀態是1的概率：
$${\beta }_1(1)=\sum _{i=1}^3{\alpha }_2(i)a_{i1}=0.27\ast 0.5+0.294\ast 0.2+0.171\ast 0.3=0.2451$$
在第一、二、三個觀測值為紅、白、紅的前提下，初始狀態是2的概率：
$${\beta }_1(2)=\sum _{i=1}^3{\alpha }_2(i)a_{i2}=0.27\ast 0.3+0.294\ast 0.5+0.171\ast 0.2=0.2622$$
在第一、二、三個觀測值為紅、白、紅的前提下，初始狀態是3的概率：
$${\beta }_1(3)=\sum _{i=1}^3{\alpha }_2(i)a_{i3}=0.27\ast 0.2+0.294\ast 0.3+0.171\ast 0.5=0.2277$$
所以
$$\pi (1)={\left[\begin{array}{ccc}0.2451& 0.2622& 0.2277\end{array}\right]}^T$$

前向概率：給定隱馬爾可夫模型$\lambda$，定義到時刻$t$部分觀測序列為$o_1,o_2,\cdots ,o_t$且狀態為$q_i$的概率為前向概率，記作
$${\alpha }_t(i)=P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )$$
$\lambda$在這裡表示的是引數，為了不與條件概率混淆，後面推導${\alpha }_t(i)$不會顯示錶示$\lambda$，也就是會使用${\alpha }_t(i)=P(o_1,o_2,\cdots ,o_t,i_t=q_i)$。

觀測序列概率的前向演算法

輸入：隱馬爾可夫模型$\lambda$，觀測序列$O$；

輸出：觀測序列概率$P(O|\lambda )$。

（1）初值
$${\alpha }_1(i)=P(o_1,i_1=q_i)=P(o_1|i_1=q_i)P(i_1=q_i)=b_i(o_1){\pi }_i,i=1,2,\cdots ,N$$
（2）遞推
$$\begin{array}{rl}{\alpha }_{t+1}(i)& =P(o_1,o_2,\cdots ,o_{t+1},i_{t+1}=q_i)\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,o_{t+1},i_t=q_j,i_{t+1}=q_i)\\ & =\sum _{j=1}^{N}P(o_{t+1}|o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i)P(o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i)\\ & =\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_i)P(o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i)\\ & =\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_i)P(i_{t+1}=q_i|o_1,o_2,\cdots ,o_t,i_t=q_j)P(o_1,o_2,\cdots ,o_t,i_t=q_j)\\ & =\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_i)P(i_{t+1}=q_i|i_t=q_j)P(o_1,o_2,\cdots ,o_t,i_t=q_j)\\ & =\left[\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j)P(i_{t+1}=q_i|i_t=q_j)\right]P(o_{t+1}|i_{t+1}=q_i)\\ & =\left[\sum _{j=1}^N{\alpha }_t(j)a_{ji}\right]b_i(o_{t+1})\end{array}$$

其中，${\alpha }_t(j)=P(o_1,o_2,\cdots ,o_t,i_t=q_j)$，$a_{ji}=P(i_{t+1}=q_i|i_t=q_j)$，$b_i(o_{t+1})=P(o_{t+1}|i_{t+1}=q_i)$。

上面推導用到了隱馬爾可夫模型的兩個基本假設：

• 齊次馬爾可夫性模型，即假設隱藏的馬爾可夫鏈在任意時刻$t$的狀態只依賴於其前一時刻的狀態，與其他時刻的狀態及觀測無關，也與時刻$t$無關。
  $$P(i_t|i_{t-1},o_{t-1},\cdots ,i_1,o_1)=P(i_t|i_{t-1}),t=1,2,\cdots ,T$$

• 觀測獨立性假設，即假設任意時刻的觀測值依賴於該時刻的馬爾可夫鏈的狀態，與其他觀測及狀態無關。
  $$P(o_t|i_T,o_T,i_{T-1},o_{T-1},\cdots ,i_{t+1},o_{t+1},i_t,i_{t-1},o_{t-1},\cdots ,i_1,o_1)=P(o_t|i_t),t=1,2,\cdots ,T$$

（3）終止
$$P(O|\lambda )=P(o_1,o_2,\cdots ,o_T|\lambda )=\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,i_T=q_i|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$$

後向概率：給定隱馬爾可夫模型$\lambda$，定義在時刻$t$狀態為$q_i$的條件下，從$t+1$到$T$的部分觀測序列為$o_{t+1},o_{t+2},\cdots ,o_T$的概率為後向概率，記作
$${\beta }_t(i)=P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,\lambda )$$
$\lambda$在這裡表示的是引數，為了不與條件概率混淆，後面推導${\beta }_t(i)$不會顯示錶示$\lambda$，也就是會使用${\beta }_t(i)=P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i)$。

觀測序列概率的前向演算法

輸入：隱馬爾可夫模型$\lambda$，觀測序列$O$；

輸出：觀測序列概率$P(O|\lambda )$。

（1）初值
$${\beta }_T(i)=1,i=1,2,\cdots ,N$$
（2）遞推
$$\begin{array}{rl}{\beta }_t(i)& =P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i)\\ & =\sum _{j=1}^{N}P(o_{t+1},o_{t+2},\cdots ,o_T,i_{t+1}=q_j|i_t=q_i)\\ & =\sum _{j=1}^N\frac{P(o_{t+1},o_{t+2},\cdots ,o_T,i_{t+1}=q_j,i_t=q_i)}{P(i_t=q_i)}\\ & =\sum _{j=1}^N\frac{P(o_{t+1},o_{t+2},\cdots ,o_T,i_{t+1}=q_j,i_t=q_i)}{P(o_{t+2},\cdots ,o_T,i_{t+1}=q_j,i_t=q_i)}\cdot \frac{P(o_{t+2},\cdots ,o_T,i_{t+1}=q_j,i_t=q_i)}{P(i_{t+1}=q_j,i_t=q_i)}\cdot \frac{P(i_{t+1}=q_j,i_t=q_i)}{P(i_t=q_i)}\\ & =\sum _{j=1}^{N}P(o_{t+1}|o_{t+2},\cdots ,o_T,i_{t+1}=q_j,i_t=q_i)P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j,i_t=q_i)P(i_{t+1}=q_j|i_t=q_i)\\ & =\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_j)P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j)P(i_{t+1}=q_j|i_t=q_i)\\ & =\sum _{j=1}^{N}P(i_{t+1}=q_j|i_t=q_i)P(o_{t+1}|i_{t+1}=q_j)P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j)\\ & =\sum _{j=1}^N{a}_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)\end{array}$$

其中，$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$，$b_j(o_{t+1})=P(o_{t+1}|i_{t+1}=q_j)$，${\beta }_{t+1}(j)=P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j)$。

上面推導用到了隱馬爾可夫模型的兩個基本假設：

• 齊次馬爾可夫性模型，即假設隱藏的馬爾可夫鏈在任意時刻$t$的狀態只依賴於其前一時刻的狀態，與其他時刻的狀態及觀測無關，也與時刻$t$無關。
  $$P(i_t|i_{t-1},o_{t-1},\cdots ,i_1,o_1)=P(i_t|i_{t-1}),t=1,2,\cdots ,T$$

• 觀測獨立性假設，即假設任意時刻的觀測值依賴於該時刻的馬爾可夫鏈的狀態，與其他觀測及狀態無關。
  $$P(o_t|i_T,o_T,i_{T-1},o_{T-1},\cdots ,i_{t+1},o_{t+1},i_t,i_{t-1},o_{t-1},\cdots ,i_1,o_1)=P(o_t|i_t),t=1,2,\cdots ,T$$

（3）終止
$$\begin{array}{rl}P(O|\lambda )& =P(o_1,o_2,\cdots ,o_T|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,i_1=q_i)\\ & =\sum _{i=1}^{N}P(i_1=q_i)\cdot \frac{P(o_1,o_2,\cdots ,o_T,i_1=q_i)}{P(i_1=q_i)}\\ & =\sum _{i=1}^{N}P(i_1=q_i)\cdot \frac{P(o_1,o_2,\cdots ,o_T,i_1=q_i)}{P(o_2,\cdots ,o_T,i_1=q_i)}\cdot \frac{P(o_2,\cdots ,o_T,i_1=q_i)}{P(i_1=q_i)}\\ & =\sum _{i=1}^{N}P(i_1=q_i)P(o_1|o_2,\cdots ,o_T,i_1=q_i)P(o_2,\cdots ,o_T|i_1=q_i)\\ & =\sum _{i=1}^{N}P(i_1=q_i)P(o_1|i_1=q_i)P(o_2,\cdots ,o_T|i_1=q_i)\\ & =\sum _{i=1}^N{\pi }_i{b}_i(o_1){\beta }_1(i)\end{array}$$

定義在時刻$T$狀態為$i$的所有單個路徑$(i_1,i_2,\cdots ,i_t)$中概率最大值為
$${\delta }_t(i)=\underset{i_1,i_2,\cdots ,i_{t-1}}{\max }P(i_t=i,i_{t-1},\cdots ,i_1,o_t,\cdots ,o_1|\lambda ),i=1,2,\cdots ,N$$
由定義可得變數$\delta$的遞推公式：
$$\begin{array}{rl}{\delta }_{t+1}(i)& =\underset{i_1,i_2,\cdots ,i_t}{\max }P(i_{t+1}=i,i_t,\cdots ,i_1,o_{t+1},\cdots ,o_1|\lambda )\\ & =\underset{i\le j\le N}{\max }\left[{\delta }_t(j)a_{ji}\right]b_i(o_{t+1}),i=1,2,\cdots ,N;t=1,2,\cdots ,T-1\end{array}$$
定義在時刻$t$狀態為$i$的所有單個路徑$(i_1,i_2,\cdots ,i_{t-1},i)$中概率最大的路徑的第$t-1$個結點為
$${\psi }_t(i)=\arg \underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}],i=1,2,\cdots ,N$$
下面介紹維特比演算法：

輸入：模型$\lambda =(A,B,\pi )$和觀測$O=(o_1,o_2,\cdots ,o_T)$；

輸出：最優路徑$I^{\ast }=(i_1^{\ast },i_2^{\ast },\cdots ,i_T^{\ast })$。

(1) 初始化
$$\begin{gathered} {\delta }_1(i)={\pi }_i{b}_i(o_1),i=1,2,\cdots ,N \\ {\psi }_1(i)=0,i=1,2,\cdots ,N \end{gathered}$$
(2) 遞推

對$t=2,3,\cdots ,T$，
$$\begin{array}{rl}{\delta }_t(i)=\underset{1\le j\le N}{\max }\left[{\delta }_{t-1}(j)a_{ji}\right]b_i(o_t),& i=1,2,\cdots ,N\\ {\delta }_t(i)=\arg \underset{1\le j\le N}{\max }\left[{\delta }_{t-1}(j)a_{ji}\right],& i=1,2,\cdots ,N\end{array}$$
(3) 終止
$$\begin{array}{rl}{P}^{\ast }& =\underset{1\le i\le N}{\max }{\delta }_T(i)\\ i_T^{\ast }& =\arg \underset{1\le i\le N}{\max }\left[{\delta }_T(i)\right]\end{array}$$
(4) 最優路徑回溯

對$t=T-1,T-2,\cdots ,1$，
$$i_t^{\ast }={\psi }_{t+1}(i_{t+1}^{\ast })$$
求得最優路徑$I^{\ast }=(i_1^{\ast },i_2^{\ast },\cdots ,i_T^{\ast })$。

狀態集合 Q = { 1 , 2 , 3 } Q=\{1,2,3\} Q={1,2,3}，觀測集合 V = { 紅 , 白 } V=\{紅,白\} V={紅,白}。

初始概率分佈：
$$\pi (0)={\left[\begin{array}{ccc}0.2& 0.4& 0.4\end{array}\right]}^T$$
狀態轉移概率矩陣：
$$A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right]$$
觀測概率矩陣：
$$B=\left[\begin{array}{cc}0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right]$$
設$T=3$，$O=(紅,白,紅)$，試求最優狀態序列，即最優路徑$I^{\ast }=(i_1^{\ast },i_2^{\ast },i_3^{\ast })$。

(1) 初始化

在$t=1$時，對每一個狀態$i$，$i=1,2,3$，求狀態為$i$觀測$o_1$為紅的概率，記此概率為${\delta }_1(i)$，則
$${\delta }_1(i)={\pi }_i{b}_i(o_1)={\pi }_i{b}_i(紅),i=1,2,3$$
代入實際資料
$${\delta }_1(1)=0.2\ast 0.5=0.1,{\delta }_1(2)=0.4\ast 0.4=0.16,{\delta }_1(3)=0.4\ast 0.7=0.28$$
即${\psi }_1(i)=0,i=1,2,3$。

(2) 在$t=2$時，對每個狀態$i$，$i=1,2,3$，求在$t=1$時狀態為$j$觀測為紅並在$t=2$時狀態為$i$觀測$o_2$為白的路徑的最大概率，記此最大概率為${\delta }_2(i)$，則
$${\delta }_2(i)=\underset{1\le j\le 3}{\max }\left[{\delta }_1(j)a_{ji}\right]b_i(o_2)$$
同時，對每個狀態$i$，$i=1,2,3$，記錄概率最大路徑的前一個狀態$j$：
$${\psi }_2(i)=\arg \underset{1\le j\le 3}{\max }\left[{\delta }_1(j)a_{ji}\right]$$
計算：

δ 2 ( 1 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.1 ∗ 0.5 , 0.16 ∗ 0.3 , 0.28 ∗ 0.2 } ∗ 0.5 = 0.028 ψ 2 ( 1 ) = 3 δ 2 ( 2 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.1 ∗ 0.2 , 0.16 ∗ 0.5 , 0.28 ∗ 0.3 } ∗ 0.6 = 0.0504 ψ 2 ( 2 ) = 3 δ 2 ( 2 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.1 ∗ 0.3 , 0.16 ∗ 0.2 , 0.28 ∗ 0.5 } ∗ 0.3 = 0.042 ψ 2 ( 2 ) = 3 \begin{aligned} &\begin{aligned} \delta_2(1) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.1*0.5,0.16*0.3,0.28*0.2 \right\} * 0.5 \\ &= 0.028 \end{aligned} \\ &\psi_2(1) = 3 \\ &\begin{aligned} \delta_2(2) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.1*0.2,0.16*0.5,0.28*0.3 \right\} * 0.6 \\ &= 0.0504 \end{aligned} \\ &\psi_2(2) = 3 \\ &\begin{aligned} \delta_2(2) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.1*0.3,0.16*0.2,0.28*0.5 \right\} * 0.3 \\ &= 0.042 \end{aligned} \\ &\psi_2(2) = 3 \end{aligned} ​δ2​(1)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.1∗0.5,0.16∗0.3,0.28∗0.2}∗0.5=0.028​ψ2​(1)=3δ2​(2)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.1∗0.2,0.16∗0.5,0.28∗0.3}∗0.6=0.0504​ψ2​(2)=3δ2​(2)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.1∗0.3,0.16∗0.2,0.28∗0.5}∗0.3=0.042​ψ2​(2)=3​

同樣，在$t=3$時，

$${\delta }_3(i)=\underset{1\le j\le 3}{\max }\left[{\delta }_2(j)a_{ji}\right]b_i(o_3)$$

同時，對每個狀態$i$，$i=1,2,3$，記錄概率最大路徑的前一個狀態$j$：

$${\psi }_3(i)=\arg \underset{1\le j\le 3}{\max }\left[{\delta }_2(j)a_{ji}\right]$$

計算：

δ 3 ( 1 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.028 ∗ 0.5 , 0.0504 ∗ 0.3 , 0.042 ∗ 0.2 } ∗ 0.5 = 0.00756 ψ 3 ( 1 ) = 2 δ 3 ( 2 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.028 ∗ 0.2 , 0.0504 ∗ 0.5 , 0.042 ∗ 0.3 } ∗ 0.4 = 0.01008 ψ 3 ( 2 ) = 2 δ 3 ( 2 ) = max ⁡ 1 ≤ j ≤ 3 [ δ 1 ( j ) a j 1 ] b 1 ( o 2 ) = max ⁡ j { 0.028 ∗ 0.3 , 0.0504 ∗ 0.2 , 0.042 ∗ 0.5 } ∗ 0.7 = 0.0147 ψ 3 ( 2 ) = 3 \begin{aligned} &\begin{aligned} \delta_3(1) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.028*0.5,0.0504*0.3,0.042*0.2 \right\} * 0.5 \\ &= 0.00756 \end{aligned} \\ &\psi_3(1) = 2 \\ &\begin{aligned} \delta_3(2) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.028*0.2,0.0504*0.5,0.042*0.3 \right\} * 0.4 \\ &= 0.01008 \end{aligned} \\ &\psi_3(2) = 2 \\ &\begin{aligned} \delta_3(2) &= \max_{1 \le j \le 3} \left[ \delta_1(j) a_{j1} \right] b_1(o_2) \\ &= \max_j \left\{ 0.028*0.3,0.0504*0.2,0.042*0.5 \right\} * 0.7 \\ &= 0.0147 \end{aligned} \\ &\psi_3(2) = 3 \end{aligned} ​δ3​(1)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.028∗0.5,0.0504∗0.3,0.042∗0.2}∗0.5=0.00756​ψ3​(1)=2δ3​(2)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.028∗0.2,0.0504∗0.5,0.042∗0.3}∗0.4=0.01008​ψ3​(2)=2δ3​(2)​=1≤j≤3max​[δ1​(j)aj1​]b1​(o2​)=jmax​{0.028∗0.3,0.0504∗0.2,0.042∗0.5}∗0.7=0.0147​ψ3​(2)=3​

(3) 以$P^{\ast }$表示最優路徑的概率，則
$$P^{\ast }=\underset{1\le i\le 3}{\max }{\delta }_3(i)=0.0147$$
最優路徑的終點是$i_3^{\ast }$：
$$i_3^{\ast }=\arg \underset{i}{\max }[{\delta }_3(i)]=3$$

(4) 由最優路徑的終點$i_3^{\ast }$，逆向找到$i_2^{\ast },i_1^{\ast }$：

在$t=2$時，$i_2^{\ast }={\psi }_3(i_3^{\ast })={\psi }_3(3)=3$

在$t=1$時，$i_1^{\ast }={\psi }_2(i_2^{\ast })={\psi }_2(3)=3$

於是求得最有路徑，即最優狀態序列$I^{\ast }=(i_1^{\ast },i_2^{\ast },i_3^{\ast })=(3,3,3)$。

如何簡單地理解維特比演算法（viterbi演算法）？https://www.zhihu.com/tardis/sogou/ans/489485567

連結：

https://www.zhihu.com/question/20962240/answer/6102575

https://blog.csdn.net/u012421852/article/details/80186816

https://blog.csdn.net/ppn029012/article/details/8923501

https://zhuanlan.zhihu.com/p/27907806

https://zhuanlan.zhihu.com/p/27056207