경제통계학 (3): 베이즈의 법칙

베이즈의 법칙은 조건부확률을 응용하여, 어떤 한 사건의 발생을 관찰하여 특정 사건이 발생할 확률을 사후적으로 수정해나가는 방법을 설명한다.

바로 공식부터 때려박으면 아래와 같다.

$B_1, B_2, ... , B_k$ 가 전체사건 S의 분할이라고 하면 아래 식이 성립한다.

$P(B_j|A) = \cfrac{P(B_j \cap A)}{P(A)} \\= \cfrac{P(B_j)P(A|B_j)}{P(B_1)P(A|B_1) + P(B_2)P(A|B_2) + ... + P(B_k)P(A|B_k)}$

$P(B_j)$는 사전확률(prior probability),
$P(A|B_j)$는 우도확률(likelihood probability),
$P(B_j|A)$는 사후확률(posterior probability)
이다.

베이즈의 법칙을 이해하는데에는 아래의 그림이 큰 도움이 된다. 

$B_1, B_2, ... , B_k$는 $S$의 분할이므로 
$S = B_1 \cup B_2 ... \cup B_k$ 이다. 

사후확률 $P(B_j|A)$라는 것은 결국 분모에 $P(A)$를, 분자에는 $P(B_j \cap A)$를 넣어야 되는 것인데,

위의 그림을 보면 $ A = \cup_{j=1}^k(A \cap B_j)$ 임을 알 수 있다.
즉, $P(A) = \Sigma_{j=1}^kP(A \cap B_j) \\= \Sigma_{j=1}^kP(B_j)P(A|B_j)$ 이다.

 $P(B_j \cap A)$는 $P(B_j)P(A|B_j)$이므로, 

최종적으로 우리가 바라던 베이즈 법칙을 만들어낼 수 있다.