[Probability] 6. 적률생성함수(Moment generating function)

이번 글에서는 확률분포의 기댓값과 분산을 수학적으로 계산할 수 있는 도구인 적률 생성 함수에 대해 알아보겠습니다. 기댓값과 분산에 대한 내용은 이전 글(Probability] 5. 기댓값과 분산$Expectation and Variance$)을 참고해주시면 감사하겠습니다.

---

$X$를 어떤 $h>0$에 대해 $-h <t <h$일 때, $e^{tX}$의 기댓값이 존재하는 확률변수라고 하겠습니다. $X$의 적률 생성 함수는 다음과 같이 정의됩니다.

$M(t)=E(e^{tX}),~where~-h <t <h$

통계학에서 적률 생성 함수가 중요한 이유는 적률 생성 함수를 정의할 수 있다면, 분포를 유일하게 정할 수 있기 때문입니다. 또한 적률 생성 함수를 알고 있다는 말은 그 분포의 유일한 통계량$$e.g.~mean,~variance$을 알고 있다는 말입니다. 그렇다면 분포의 유일한 통계량 중 하나인 평균과 분산은 어떻게 구할 수 있을까요? 적률 생성 함수의 미분은 다음과 같습니다.

$M^{\prime}(t)=\frac {dM(t)}{dt}=\frac {d}{dt} \displaystyle \int^{\infty}_{-\infty}{e^{tx} f(x) dx}= \displaystyle \int^{\infty}_{-\infty}\frac {d}{dt}{e^{tx} f(x) dx}=\displaystyle \int^{\infty}_{-\infty}{xe^{tx} f(x) dx}$

$M^{\prime}(t)=\frac {dM(t)}{dt}=\frac {d}{dt} \displaystyle \int^{\infty}_{-\infty}{e^{tx} f(x) dx}= \displaystyle \int^{\infty}_{-\infty}\frac {d}{dt}{e^{tx} f(x) dx}=\displaystyle \int^{\infty}_{-\infty}{x^2e^{tx} f(x) dx}$

즉, 다음이 성립합니다.

$M^{\prime}(0)=\mathbb {E}(X)=\mu$

$M^{\prime \prime}(0)=\mathbb {E}(X^2)$

$V(X)=\mathbb {E}(X^2)-\mathbb {E}(X)^2=M^{\prime \prime}(0)-M^{\prime}(0)^2$

 이와 같은 종류의 적분은 역학에서 적률$Moment$라고 합니다. $M(t)$는 $\mathbb {E}(X^m)$의 값을 생성하기 때문에 적률 생성 함수라고 합니다.