최대우도법을 공부해볼 것입니다. 최우추정법이라고도 불리는데요. 우도가 최대가 되도록 모집단의 평균 등의 모수를 추정하는 방법입니다. 우도가 무엇인지, 우도를 최대화한다는게 무엇인지 자세히 이해하기 전에 아주 간단한 예제로 감을 잡아봅시다.
상자에 공이 10개 있습니다. 흰공과 검은공이 섞여있다는 사실만 알 뿐, 각각 몇개씩 들어있는지는 모릅니다. 우리는 검은공이 몇개 들어있는지 알고 싶은 상황입니다.
최대우도법을 이용하여 풀어보겠습니다. 최대우도법이 무엇인지 아직 배우지 않았지만 충분히 이해가 가능하실겁니다.
복원추출로 공을 5번 뽑았습니다. 아래와 같은 결과가 나왔습니다.
(검) (검) (흰) (검) (흰)
검은공이 나올 확률을 p로 놓는다면 위와 같은 상황이 발생할 확률은 아래와 같습니다.
$p \times p \times (1-p) \times p \times (1-p)$
정리하면 아래와 같습니다.
$p^{3} (1-p)^{2}$
p에 따라 위 사건이 발생한 확률이 달라질 것입니다. 아래와 같이 함수로 놓겠습니다 .
$f(p)=p^{3} (1-p)^{2}$
몇가지 p값에 따른 발생확률은 아래와 같습니다.
| p | f(p) |
| 0.1 | 0.00081 |
| 0.3 | 0.01323 |
| 0.5 | 0.03125 |
| 0.7 | 0.03087 |
| 0.9 | 0.00729 |
그래프로 그려보면 아래와 같습니다.
p=c(0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9)
f=p^3*(1-p)^2
plot(p,f)
p가 얼마인지 모르는 상태에서 얼마로 추정하는 것이 말이 되는 추정일까요?
최대우도법은 발생한 사건의 확률이 최대가 되는 확률값을 참값으로 추정합니다. 가장 높은 확률의 사건이 발생했을 것이라 판단하는 것입니다.
따라서 우리는 $p^{3} (1-p)^{2}$ 가 최대가 되는 p값을 구하면 됩니다. 다항함수의 최댓값 문제입니다. 미분해서 구하면 됩니다.
먼저 개형은 아래와 같습니다.
$f(p)=p^{3} (1-p)^{2}$
확률은 0과 1 사잇값을 갖습니다.
미분해봅시다.
$f'(p)=3p^{2} (1-p)^{2}-2p^{3} (1-p)$
아래와 같이 묶어줍시다.
$f'(p)=p^{2}(1-p)(3(1-p)-2p)$
아래와 같이 정리해줍니다.
$f'(p)=p^{2}(1-p)(3-5p)$
따라서 $f(p)$가 최댓값을 같게 하는 p는 $\frac{3}{5}$입니다. 따라서 검은 공은 6개 들어있다고 추정할 수 있습니다.
댓글