條件機率公式
\displaystyle P(AB)=P(A)P(B|A)=P(B)P(A|B)
即事件A和事件B同時發生的機率等於在發生A的條件下B發生的機率乘以A的機率。有條件機率公式推出貝葉斯公式：
\displaystyle P(B|A)=\frac{P(A|B)P(B)}{P(A)}
即已知P(A|B)、P(A)、P(B)可以計算出P(B|A)。
假設B是由相互獨立的事件組成的機率空間
\left\{B_1,B_2,\cdots B_n\right\}
則P(A)可以用全機率公式展開：
P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots P(A|B_n)P(B_n)
貝葉斯公式表示成：
\displaystyle P(B_i|A)=\frac{P(A|B_i)P(B_i)}{P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots P(A|B_n)P(B_n)}
常常把P(B_i|A)稱做後驗機率，而P(A|B_n)P(B_n)為先驗機率，而P(B_1)又叫做基礎機率。
貝葉斯公式：
\displaystyle P(B_i|A)=\frac{P(Bi)P(A|B_i)}{\sum\limits_{i=1}^nP(B_i)P(A|B_i)}
貝葉斯法則的原理
通常，事件A在事件B發生的條件下的機率，與事件B在事件A的條件下的機率是不一樣的；然而，這兩者是有確定的關係，貝葉斯法則就是這種關係的陳述。
作為一個規範的原理，貝葉斯法則對於所有機率的解釋是有效的；然而，頻率主義者和貝葉斯主義者對於在應用中機率如何被賦值有著不通的看法：頻率主義者根據隨機事件發生的頻率，或總體樣本里面的個數來賦值機率；貝葉斯主義者要根據未知的命題來賦值機率。一個結果就是，貝葉斯主義者有更多的機會使用貝葉斯法則。
貝葉斯法則是關於隨機事件A和B的條件機率和邊緣機率的/
\displaystyle P(A|B)=\frac{P(B|A)P(A)}{P(B)}\propto L(A|B)P(A)
其中L(A|B)是在B發生的情況下A發生的可能性。
在貝葉斯法則中，每個名次都有約定俗成的名稱：
- P(A) 是 A 的先驗機率或邊緣機率。之所以稱為”先驗”是因為它不考慮任何 B 方面的因素。
- P(A|B) 是已知 B 發生後 A 的條件機率，也由於得自 B 的取值而被稱作 A 的後驗機率。
- P(B|A) 是已知 A 發生後 B 的條件機率，也由於得自 A 的取值而被稱做 B 的後驗機率。
- P(B) 是 B 的先驗機率或邊緣機率，也稱作標準化常量。
貝葉斯法則可表述為：
後驗機率 = (似然度 * 先驗機率) / 標準化常量。
也就是說，後驗機率與先驗機率和似然度的乘積成正比。
另外，比例\frac{P(B|A)}{P(B)}也有時被稱做標準似然度，貝葉斯法則可表述為：
後驗機率 = 標準似然度 * 先驗機率
要理解貝葉斯推斷，必須先理解貝葉斯定力。後者實際上就是計算”條件機率”的公式。
所謂”條件機率”，就是至在事件B發生的情況下，事件A發生的機率，用P(A|B)來表示。
\displaystyle P(A|B)=\frac{P(A\bigcap B)}{P(B)}\\{}\\ \Rightarrow P(A\bigcap B)=P(A|B)P(B)\\{}\\ \Rightarrow P(A\bigcap B)=P(B|A)P(A)\\{}\\ \Rightarrow P(A|B)P(B)=P(B|A)P(A)\\{}\\ \Rightarrow P(A|B)=\frac{P(B|A)P(A)}{P(B)}
本作品採用《CC 協議》，轉載必須註明作者和本文連結