[수리통계학] #17. 베이즈정리 유도 (Bayes' theorem)

베이즈정리 유도

 

어떤 사건 A와 B가 있을 때, 아래와 같은 조건부확률을 정의할 수 있습니다. 

 

$P(A|B)=\frac{P(B \cap A)}{P(B)}$

 

위 수식의 분자에 확률의 곱셈공식을 적용합시다. 

 

$P(A|B)=\frac{P(A)P(B|A)}{P(B)}$

 

위 등식이 베이즈정리입니다. $P(A|B)$ 를 구하고 싶은데, 직접 구하는 것이 어려운 대신 $P(A)$ 와 $P(B|A)$를 구하는 것은 상대적으로 쉽다면 위 등식은 쓸모가 있을겁니다. 

 

 

변형

 

표본공간 $S$는 사건 $A$에 의해 둘로 나뉩니다. $A$ 와 $A^{c}$ 입니다. 따라서 위 등식 분모에 전확률공식을 적용할 수 있습니다. 

 

$P(A|B)=\frac{P(A)P(B|A)}{P(A)P(B|A)+P(A^{c})P(B|A^{c})}$

 

 

 

일반화 

 

사건 $A_{1},A_{2},...,A_{n}$ 이 표본공간을 분할하고 있다고 합시다. 또 다른 사건 B가 있을 때, 아래 등식이 성립합니다. 

 

$P(A_{j}|B)=\frac{P(B \cap A_{j})}{P(B)}$

 

곱셉공식을 적용합시다. 

 

$P(A_{j}|B)=\frac{P(A_{j})P(B|A_{j})}{P(B)}$

 

전확률공식을 적용합시다. 

 

$P(A_{j}|B)=\frac{P(A_{j})P(B|A_{j})}{\sum_{i=1}^{k}P(A_{i})P(B|A_{i})}$

 

여기서 $A_{j}$ 는 뭐든 될 수 있습니다. $A_{1}$ 이건 $A_{2}$ 이건, 뭐든 성립합니다.