Markov Model 馬可夫模型 & Hidden Markov Model 隱馬可夫模型

馬可夫模型是什麼？

 是一種隨機模型，這種模型假設系統將來的狀態是由當前的狀態轉變而來的, 並且不受當前狀態之前的狀態影響。 

     － 以城市旅遊為例子： 我先去紐約 然後去波士頓 最後去華盛頓,  那麼我們認為 到波士頓是基於紐約而來的，同理到華盛頓是基於 波士頓而來的。

馬可夫鏈是什麼？

 就是系統狀態轉移的路徑。 從以下的例子可以得出 4條 序列, 那麼將這 4 條

    － 以城市旅遊為例子： A 同學的路徑是從  紐約 -> 波士頓-> 華盛頓

                                          B 同學的路徑是從 華盛頓 -> 紐約 -> 波士頓

                                          C 同學的路徑是從 紐約 -> 華盛頓 -> 波士頓

                                          D 同學的路徑是從 波士頓 -> 華盛頓 -> 紐約

 

 以上就是一個完整的markov chain, 從這個chain我們能得到什麼資訊呢？

    首先 從紐約出發的下一個城市有兩種可能 1. 波士頓 2. 華盛頓 那麼從紐約出發到波士頓的概率就是 2/3. 到華盛頓的概率就是 1/3。

        另外， 那我們能不能得到從哪個城市出發呢？ 一共有四個人， 出發城市總數為4. 那麼從紐約出發的概率為 2/4 。

          由此我們能得到以下

由此我們就很容易的可以預測 某個人的旅遊路線。為了更好的闡述該問題我們可以講問題轉化為一個maximization問題！

假設我需要去 四個城市旅遊，已知markov model, 那麼我們可以通過優化以下公式來找出最受歡迎的路線(即概率最大的路線)

   定義 Y 屬於(0, 1, 2, 3) 為四個城市 /  P(Y) 為出發城市的概率   /  P(Yi | Yi-1) 是 以 Yi-1 為出發城市 到Yi 城市的概率

GitHub_Markov_Model

 什麼是隱馬可夫模型, 它是在馬可夫模型上包含的一個隱形變數，但是這個隱形變數就是我們想要觀察的變數。換句話說就是， 我們不能直接觀察我們的目標變數，但是我們能觀  察到的是一個和目標變數有關的變數。 

還是以城市旅遊為例子。

    － 以城市旅遊為例子：（但是這次我們不僅僅知道旅遊的城市也知道了在城市的花費）

                                          A 同學的路徑是從  紐約( $800) -> 波士頓($400)-> 華盛頓($600)

                                          B 同學的路徑是從 華盛頓($550) -> 紐約($900) -> 波士頓($450)

                                          C 同學的路徑是從 紐約($750) -> 華盛頓($650) -> 波士頓($325)

                                          D 同學的路徑是從 波士頓($425) -> 華盛頓($600) -> 紐約($750)

根據 在各個城市的花費，我們能分別對各個城市花費找出相對應的 Normal Distribution 

   例如 紐約就是 N(800, 61)

通過以上資訊我們能得出一個 Hidden Markov Model 如下

當準備好 hidden markov model 能做什麼呢？ 

   我們現在知道了一個人在旅途中的花費是這樣的.  875 (城市1) 

    紐約 N(800, 61)  波士頓 N(400, 47)  華盛頓 N(600, 35)  

    例如： 將 875 分別帶入三個城市的分佈中求出概率 發現 紐約的概率最大， 即該城市1為紐約

   一次類推我們能找到所有的最優解。

例題

  加入我們已知 在四個城市的花費 x1 = 355  /  x2 = 339  /  x3 = 148  / x4 = 50, 預測這四個城市各是什麼？ 

    通過以上我們知道，就是找出這四個城市概率的最大值，轉化問題為一個maximization 問題。

定義 Y 屬於(0, 1, 2, 3) 為四個城市 /  P(Y) 為出發城市的概率   /  P(Yi | Yi-1) 是 以 Yi-1 為出發城市 到Yi 城市的概率

   定義 P(Xi | Yi) 為在該城市的花費的density（非嚴格意義上的概率）

 

Github_Hidden_Markov_Model