이번 글에서는 MCMC(Markov Chain Monte Carlo)의 알고리즘의 수렴 진단에 대해 알아보겠습니다. [관련 글] MCMC(Estimation of Posterior - Markov Chain Monte Carlo) - 깁스 샘플러(Gibbs Sampler), MCMC(Estimation of Posterior - Markov Chain Monte Carlo) - 메트로폴리스-헤스팅스 알고리즘(Metropolis-Hastings Algorithm) 깁스 샘플링 또는 메트로폴리스-헤스팅스 알고리즘을 사용한 통계량의 추정이 정당성을 가지기 위해선 관심 모수 $\theta$의 수렴성을 진단해야 합니다. MCMC방법의 수렴을 진단하는 방법 중 겔만-루빈(Gelman-Rubin) 방법에 대해 알아보..

이번 글에서는 사후 분포를 계산할 수 없는 경우 이를 계산할 수 있는 방법인 MCMC(Markov Chain Monte Carlo) 방법 중 깁스 샘플러보다 더 일반적인 경우 사용되는 메트로폴리스-헤스팅스 알고리즘(Metropolis-Hastings Algorithm)에 대해 알아보겠습니다. [관련 글] [Stochastic Process] 1. 확률 과정(Stochastic Process),[Stochastic Process] 2. 마르코프 체인(Markov Chain) 메트로폴리스-헤스팅스 알고리즘(Matropolis-Hastings Algorithm) 난수를 발생하고자 하는 목표 확률분포가 $f(y) \propto \pi(y)$ 혹은 $f(y) = c\pi(y)$와 같이 주어지고, 이때 정규화 상수..

이번 글에서는 사후 분포를 계산할 수 없는 경우 이를 계산할 수 있는 방법인 MCMC(Markov Chain Monte Carlo) 방법 중 널리 쓰이는 깁스 샘플러(Gibbs sampler)에 대해 알아보겠습니다. [관련 글] [Stochastic Process] 1. 확률 과정(Stochastic Process),[Stochastic Process] 2. 마르코프 체인(Markov Chain) 깁스 샘플러(Gibbs sampler) 깁스 샘플러는 다차원의 결합 확률분포가 복잡하여 직접 랜덤 표본을 생성하기 어려운 경우, 각 변수의 조건부 확률분포로부터 랜덤 표본을 반복적으로 생성하면 적절한 조건 하에서 이들의 극한 분포가 결합 확률 밀도 함수가 된다는 사실에 근거하여 난수를 샘플링하는 방법입니다. 관..

LaTex는 논문이나 블로그에서 수식을 적을 수 있는 도구입니다. 자주 사용하는 LaTex기호들을 모아서 정리해보았습니다. 1. 그리스문자 $\alpha~\textrm{\alpha}$ $\beta~\textrm{\beta}$ $\gamma~\textrm{\gamma}$ $\delta~ \textrm{\delta}$ $\epsilon~\textrm{\epsilon}$ $\zeta~\textrm{\zeta}$ $\eta~\textrm{\eta}$ $\theta~\textrm{\theta}$ $\iota~\textrm{\iota}$ $\kappa~\textrm{\kappa}$ $\lambda~\textrm{\lambda}$ $\mu~\textrm{\mu}$ $\nu~\textrm{\nu}$ $\xi~\text..

Tistory에서도 수식전문 매크로인 LaTex를 사용할 수 있습니다. 1. 밑의 HTML 코드를 복사하기! 2. 블로그 관리 페이지에 들어가서 꾸미기 탭의 스킨편집 버튼을 누르기! 3. 스킨편집 탭으로 들어가서 HTML 편집 버튼을 누르기! 4. 1.번에서 복사한 HTML코드를 이전 Script가 끝나는 위치에 맞춰서 붙여놓기! 5. $\$ \$$ 사이에 수식 입력하기! $\$ \textrm{alpha} \$$ $\rightarrow$ $\alpha$

이번 글에서는 확률 과정$\{ X_t|t \in T\}$이 주어졌을 때, $X_t$간의 종속관계를 고려한 모델 중 하나인 마르코프 체인에 대해 알아보겠습니다. 시간 공간 $T$는 $T= \{ 0,1,2,3, \cdots\}$, 상태 공간 $S$는 $S=\{ \cdots,-2,-1,0,1,2,\cdots\}$이라고 가정하고, $\{ X_n=i \}$를 $n$시점에서 확률 과정이 상태 $i$에 있는 사상을 의미한다고 가정하겠습니다. 한 확률 과정이 $X_0=0$에서 시작하고, 상태 $i$에서 $i+1$로 갈 확률이 $\frac {2}{3}$. $i-1$로 갈 확률이 $\frac {1}{3}$이라고 가정할 때, $\{ X_5=1 \}$이 되는 사상은 어떻게 될까요? $X_0=0$에서 출발하여 $X_5=1$이 ..