Tistory에서도 수식전문 매크로인 LaTex를 사용할 수 있습니다. 1. 밑의 HTML 코드를 복사하기! 2. 블로그 관리 페이지에 들어가서 꾸미기 탭의 스킨편집 버튼을 누르기! 3. 스킨편집 탭으로 들어가서 HTML 편집 버튼을 누르기! 4. 1.번에서 복사한 HTML코드를 이전 Script가 끝나는 위치에 맞춰서 붙여놓기! 5. $\$ \$$ 사이에 수식 입력하기! $\$ \textrm{alpha} \$$ $\rightarrow$ $\alpha$

이번 글에서는 확률 과정$\{ X_t|t \in T\}$이 주어졌을 때, $X_t$간의 종속관계를 고려한 모델 중 하나인 마르코프 체인에 대해 알아보겠습니다.시간 공간 $T$는 $T= \{ 0,1,2,3, \cdots\}$, 상태 공간 $S$는 $S=\{ \cdots,-2,-1,0,1,2,\cdots\}$이라고 가정하고, $\{ X_n=i \}$를 $n$시점에서 확률 과정이 상태 $i$에 있는 사상을 의미한다고 가정하겠습니다.한 확률 과정이 $X_0=0$에서 시작하고, 상태 $i$에서 $i+1$로 갈 확률이 $\frac {2}{3}$. $i-1$로 갈 확률이 $\frac {1}{3}$이라고 가정할 때, $\{ X_5=1 \}$이 되는 사상은 어떻게 될까요?$X_0=0$에서 출발하여 $X_5=1$이 되기 ..

이번 글에서는 확률과정의 수학적 정의와 함께 간단한 예시를 통해 확률과정이 무엇인지에 대해 알아보겠습니다. 먼저 예시를 보겠습니다. A회사에서는 인체에 해가 적고 자연상태에서 쉽게 분해되는 새로운 세제를 개발하였습니다. 그러나 이 제품은 기존제품에 비해 제조단가가 1.5배 이상 되어 과연 소비자들이 이를 선택할지 의문인 상황입니다. 따라서 경영자는 먼저 시제품을 내어놓고 이에 대한 소비자들의 반응을 알아볼 것 입니다. 또한 소비자들의 반응에 따라 생산량을 조절하여 적정 재고량을 유지하려 할 것 입니다. 그러자면 생산설비를 늘려야 할 것인지 줄여야 할 것 인지를 미리 판단하여야 하며 이를 위해서는 일정시간 경과 후에 신제품을 구입하고자 하는 소비자 수를 예측하여야 할 것 입니다. 위의 예시와 같이 시간에 ..

이번 글에서는 사후 분포를 계산할 수 없는 경우 이를 계산할 수 있는 방법인 MCMC(Markov Chain Monte Carlo)방법의 구성요소인 몬테카를로방법(Monte carlo method)에 대해 알아보겠습니다. 관측치 $y=(y_1,\dots, y_n)$, $\theta$에 대해 사후 분포는 다음과 같습니다. $p(\theta|y)=\frac {p(y|\theta)\pi(\theta)}{\int {p(y|\theta)\pi(\theta) d\theta}}$ 베이지안 추론의 장점은 새로운 관측치에 대한 추론을 수행할 때, 이전의 데이터(사후 분포)를 이용하여 추론을 갱신할 수 있다는 것입니다. 예를 들어서, 미래 관측값 $\tilde {y}$에 대한 추론을 다음과 같이 수행할 수 있습니다. $p..

이전 글에서는 공액사전분포에 대해 알아보았습니다. 공액사전분포, 무정보적 사전분포, 제프리 사전분포 등을 사용하는 이유는 사후분포를 쉽게 다룰 수 있는(tractable) 분포로 나타내기 위함입니다. 이번 글에서는 사후분포가 계산이 불가능(Intractable)한 경우를 살펴보고, 이를 계산할 수 있는 방법들에 대해 알아보겠습니다. 관측값 $y=(y_1,\dots,y_n)$과 모수 $\theta$가 주어졌을 때, 사후분포는 다음과 같습니다. $p(\theta|y)=\frac{p(y|\theta)\pi(\theta)}{p(y)}=\frac{p(y|\theta)\pi(\theta)}{\int{p(y|\theta)\pi(\theta)d\theta}}$ 사후분포를 계산할 때, 발생할 수 있는 문제점은 두 가지 ..

베이지안 추론에서 주요 논쟁거리 중 하나는 주관적 사전분포의 사용입니다. 사전분포에는 여러가지 형태가 있고, 사전분포를 정하는 방법은 매우 다양합니다. 이번 글에서는 공액사전분포에 대해 알아보겠습니다. 모수에 대한 사전분포를 선택할 때, 그 분포의 형태를 모른다면 특정계열의 분포를 이용할 수 있습니다. 사전분포와 사후분포가 동일한 분포족에 속할 때, 사전분포를 공액사전분포(Conjugate prior)라고 합니다. 흔히 사용되는 공액사전분포는 다음과 같습니다. 표본분포 공액사전분포 $B(n,~\theta)$ $\theta \sim Beta(\alpha,~\beta)$ $Poi(\theta)$ $\theta \sim Gamma(a,~b)$ $N(\mu,~\sigma^2),~\sigma^2$ 알 때 $\mu..