이번 글에서는 베이지안 주성분 분석에 대해 알아보겠습니다. [관련 글] 2021.08.16 - [Machine Learning/models] - [models] 주성분 분석(Principal Component Analysis) 2021.08.16 - [Bayesian] - 확률적 주성분 분석(Probabilistic PCA) 확률적 주성분 분석에서는 관측된 변수를 연속형 잠재 변수를 통해 다음과 같이 나타내었습니다. $\begin {align} &\textbf {x}=\textbf {Wz} + \mu + \epsilon,~~~~where~\epsilon \sim N(0,\sigma^2),~p(\textbf {z})=N(z|0, \textrm {I}) \\ &p(\textbf {x}|\textbf {z})..

이번 글에서는 연속형 잠재 변수를 활용하는 가장 기본적인 모델에 해당하는 확률적 주성분 분석(Probabilistic PCA)에 대해 알아보겠습니다. [관련 글] 2021.08.16 - [Machine Learning/models] - [models] 주성분 분석(Principal Component Analysis) 주성분 분석은 원래 데이터 차원보다 더 낮은 차원으로 선형 사영(linear projection) 시키는 방법을 말합니다. 주성분 분석의 고유 벡터와 고윳값은 라그랑주 승수법을 통해 구할 수 있습니다. 확률적 주성분 분석에서는 연속형 잠재 변수의 선형 결합을 통해 관찰된 변수를 나타냅니다. 이렇게 나타내게 되면, 기존의 확률론적 방법으로 통합될 수 있기 때문에 여러 이점(MLE, EM 알고리..