[통계 적률의 이해] 6. 적률생성함수란?

적률생성함수는 영어로 moment generating function 입니다. 줄여서 MGF라고 부르는데요. 말 그대로 적률을 생성해주는 함수입니다. 어떤 적률을 생성해주는걸까요? 우리는 지난시간까지 세가지 종류의 적률을 배웠습니다. 

 

- 적률

- 중심적률

- 표준화적률

 

적률생성함수는 이들 중 '적률'을 생성합니다. 물론 적률은 적분을 통해서 구할 수 있습니다만, 적률생성함수를 한번 구해놓으면 n차 적률을 아주 쉽게 구할 수가 있습니다. 아주 기발한 방법입니다. 

 

적률생성함수는 아래와 같이 정의됩니다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]$

 

연속확률변수라면 아래와 같이 구할 수 있습니다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]=\int_{-\infty}^{\infty}e^{tx}f(x)dx$

 

확률변수 X가 있을 때, $e^{tX}$ 의 기댓값이 적률생성함수입니다. 이 함수가 어떻게 적률을 생성하는지 그 원리를 알아봅시다. $e^{tX}$ 에 테일러급수를 적용해보겠습니다. 테일러 급수는 함수 f(x) 를 다항함수로 바꿔주는 방법입니다. 아래와 같습니다. 

 

$f(x)=f(a)+f'(a)(x-a)+\frac{1}{2!}f''(a)(x-a)^{2}+\frac{1}{3!}f'''(a)(x-a)^{3}+\cdots$

 

$e^{tX}$ 를 테일러 전개하면 아래와 같습니다. 변수는 t입니다. 

 

$e^{tX}=e^{aX}+\frac{Xe^{aX}}{1!}(t-a)+\frac{X^{2}e^{aX}}{2!}(t-a)^{2}+\frac{X^{3}e^{aX}}{3!}(t-a)^{3}+ \cdots$

 

a에 0을 대입합시다. 테일러급수에서 a에 0을 대입한 경우를 매클로린 급수라고 합니다. 

 

$e^{tX}=1+Xt+\frac{X^{2}}{2!}t^{2}+\frac{X^{3}}{3!}t^{3}+\cdots$

 

적률생성함수 식에 대입합시다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]=E\left [ 1+Xt+\frac{X^{2}}{2!}t^{2}+\frac{X^{3}}{3!}t^{3}+\cdots  \right ]$

 

기댓값 항을 분리해서 써줍시다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]= 1 + E\left [ Xt  \right ] + E\left [ \frac{X^{2}}{2!}t^{2}  \right ] + E\left [\frac{X^{3}}{3!}t^{3} \right ] +\cdots$

 

기댓값과 무관한 항은 밖으로 꺼내줍니다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]= 1 + E\left [ X  \right ]t + \frac{E\left [ X^{2} \right ]}{2!}t^{2} + \frac{E\left [ X^{3} \right ]}{3!}t^{3} + \dots$

 

따라서 아래 등식이 성립합니다. 

 

$M_{X}(t)=E\left [ e^{tX} \right ]= 1 + E\left [ X  \right ]t + \frac{E\left [ X^{2} \right ]}{2!}t^{2} + \frac{E\left [ X^{3} \right ]}{3!}t^{3} + \dots$

 

미분을 한번 해봅시다. 

---

1번 미분

$\frac{\mathrm{d}M_{X}(t)}{\mathrm{dt}}= E\left [ X  \right ] + \frac{E\left [ X^{2} \right ]}{1!}t + \frac{E\left [ X^{3} \right ]}{2!}t^{2} + \dots$

 

t에 0을 넣어봅시다. 

 

$\frac{\mathrm{d}M_{X}(0)}{\mathrm{dt}}= E\left [ X  \right ]$

 

1차 적률이 나옵니다. 적률생성함수를 한번 미분하고 t에 0을 넣으면 1차적률입니다. 

 

2번 미분

$\frac{\mathrm{d^{2}}M_{X}(t)}{\mathrm{dt^{2}}}= E\left [ X^{2} \right ] + \frac{E\left [ X^{3} \right ]}{1!}t + \dots$

 

t에 0을 넣어봅시다. 

 

$\frac{\mathrm{d^{2}}M_{X}(0)}{\mathrm{dt^{2}}}= E\left [ X^{2} \right ]$

 

2차 적률이 나옵니다. 적률생성함수를 한번 두분하고 t에 0을 넣으면 2차적률입니다. 

 

n번 미분

n번 미분하고 t에 0을 넣으면 n차적률입니다. 

 

$\frac{\mathrm{d^{n}}M_{X}(0)}{\mathrm{dt^{n}}}= E\left [ X^{n} \right ]$

---

적률생성함수의 위대함(?) 입니다. 적률생성함수를 한번만 구해놓으면, 적률생성함수의 미분을 통해서 n차 적률을 쉽게 구할 수가 있습니다.