條件概率公式
\displaystyle P(AB)=P(A)P(B|A)=P(B)P(A|B)
即事件A和事件B同時發生的概率等於在發生A的條件下B發生的概率乘以A的概率。有條件概率公式推出貝葉斯公式：
\displaystyle P(B|A)=\frac{P(A|B)P(B)}{P(A)}
即已知P(A|B)、P(A)、P(B)可以計算出P(B|A)。
假設B是由相互獨立的事件組成的概率空間
\left\{B_1,B_2,\cdots B_n\right\}
則P(A)可以用全概率公式展開：
P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots P(A|B_n)P(B_n)
貝葉斯公式表示成：
\displaystyle P(B_i|A)=\frac{P(A|B_i)P(B_i)}{P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots P(A|B_n)P(B_n)}
常常把P(B_i|A)稱做後驗概率，而P(A|B_n)P(B_n)為先驗概率，而P(B_1)又叫做基礎概率。
貝葉斯公式：
\displaystyle P(B_i|A)=\frac{P(Bi)P(A|B_i)}{\sum\limits_{i=1}^nP(B_i)P(A|B_i)}
貝葉斯法則的原理
通常，事件A在事件B發生的條件下的概率，與事件B在事件A的條件下的概率是不一樣的；然而，這兩者是有確定的關係，貝葉斯法則就是這種關係的陳述。
作為一個規範的原理，貝葉斯法則對於所有概率的解釋是有效的；然而，頻率主義者和貝葉斯主義者對於在應用中概率如何被賦值有著不通的看法：頻率主義者根據隨機事件發生的頻率，或總體樣本里面的個數來賦值概率；貝葉斯主義者要根據未知的命題來賦值概率。一個結果就是，貝葉斯主義者有更多的機會使用貝葉斯法則。
貝葉斯法則是關於隨機事件A和B的條件概率和邊緣概率的/
\displaystyle P(A|B)=\frac{P(B|A)P(A)}{P(B)}\propto L(A|B)P(A)
其中L(A|B)是在B發生的情況下A發生的可能性。
在貝葉斯法則中，每個名次都有約定俗成的名稱：
- P(A) 是 A 的先驗概率或邊緣概率。之所以稱為”先驗”是因為它不考慮任何 B 方面的因素。
- P(A|B) 是已知 B 發生後 A 的條件概率，也由於得自 B 的取值而被稱作 A 的後驗概率。
- P(B|A) 是已知 A 發生後 B 的條件概率，也由於得自 A 的取值而被稱做 B 的後驗概率。
- P(B) 是 B 的先驗概率或邊緣概率，也稱作標準化常量。
貝葉斯法則可表述為：
後驗概率 = (似然度 * 先驗概率) / 標準化常量。
也就是說，後驗概率與先驗概率和似然度的乘積成正比。
另外，比例\frac{P(B|A)}{P(B)}也有時被稱做標準似然度，貝葉斯法則可表述為：
後驗概率 = 標準似然度 * 先驗概率
要理解貝葉斯推斷，必須先理解貝葉斯定力。後者實際上就是計算”條件概率”的公式。
所謂”條件概率”，就是至在事件B發生的情況下，事件A發生的概率，用P(A|B)來表示。
\displaystyle P(A|B)=\frac{P(A\bigcap B)}{P(B)}\\{}\\ \Rightarrow P(A\bigcap B)=P(A|B)P(B)\\{}\\ \Rightarrow P(A\bigcap B)=P(B|A)P(A)\\{}\\ \Rightarrow P(A|B)P(B)=P(B|A)P(A)\\{}\\ \Rightarrow P(A|B)=\frac{P(B|A)P(A)}{P(B)}
本作品採用《CC 協議》，轉載必須註明作者和本文連結