全概率公式
樣本空間S是兩個事件A與A^{\prime}的和。
加入事件B，事件B被劃分成兩個部分。
即
\displaystyle P(B)=P(B\bigcap A)+P(B\bigcap A^\prime)\\{}\\ P(B\bigcap A)=P(B|A)P(A)\\{}\\ \Rightarrow P(B)=P(B|A)P(A)+P(B|A^\prime)P(A^\prime)
這就是全概率公式，含義是：如果A和A\prime構成樣本空間的一個劃分，那麼事件B的概率就等於A和A\prime的概率分別乘以B對這兩個事件的條件概率只和。
所以條件概率的另一種寫法：
\displaystyle P(A|B)=\frac{P(B|A)P(A)}{P(B|A)P(A)+P(B|A^\prime)P(A^\prime)}
貝葉斯推斷的含義
\displaystyle P(A|B)=P(A)\frac{P(B|A)}{P(B)}
P(A) 為”先驗概率”，即在 B 事件發生之前，對 A 事件概率的一個判斷。P(A|B) 稱為”後驗概率”，即在 B 事件發生之後，對 A 事件概率的重新評估。P(B|A)/P(B) 稱為”可能性函式”，這是一個調整因子，使得預估概率更接近真實概率。
所以條件概率可以理解成：
後驗概率 = 先驗概率 x 調整因子
這就是貝葉斯推斷的含義。我們先預估一個”先驗概率”，然後加入實驗結果，看這個實驗到底是增強還是削弱了”先驗概率”，由此得到更接近事實的”後驗概率”。
在這裡，如果”可能性函式” P(B|A)/P(B)>1，意味著”先驗概率”被增強，事件 A 的發生的可能性變大；如果”可能性函式”=1，意味著 B 事件無助於判斷事件 A 的可能性；如果”可能性函式”<1，意味著”先驗概率”被削弱，事件A的可能性變小。
本作品採用《CC 協議》，轉載必須註明作者和本文連結