숨겨진 변수로 모델링하는 비가우시안 비정상성 및 ICA BSS 적용

초록

비가우시안 및 비정상 신호와 영상의 모델링은 신호·영상 처리 분야에서 언제나 핵심 과제이다. 본 논문에서는 먼저 숨겨진 변수를 이용하여 (1) 정적이지만 비가우시안인 경우, (2) 가우시안이지만 비정상인 경우, (3) 비가우시안·비정상인 경우의 세 가지 새로운 모델을 제안한다. 이어서 이러한 사전 모델들을 독립 성분 분석(ICA) 혹은 블라인드 소스 분리(BSS) 문제에 적용하는 방법을 제시한다. 마지막으로 제안된 모델에 기반한 베이지안 추정 프레임워크의 계산적 구현 방식을 논의한다.

상세 요약

본 논문이 다루는 핵심 문제는 실제 신호·영상이 종종 가우시안 가정에서 벗어나며 시간·공간에 따라 통계적 특성이 변한다는 점이다. 전통적인 ICA와 BSS는 독립성 가정과 정규성(또는 최소한의 비정규성) 가정을 전제로 하지만, 이러한 가정이 깨지는 경우 성능 저하가 불가피하다. 저자들은 ‘숨겨진 변수(hidden variable)’라는 개념을 도입해 두 차원의 불확실성을 별도의 확률 변수로 분리한다. 구체적으로, (i) 정적이지만 비가우시안인 경우에는 숨겨진 스케일 변수 혹은 혼합 계수를 통해 각 성분의 분포를 가우시안 혼합 형태로 표현한다. (ii) 가우시안이지만 비정상인 경우에는 시간(또는 공간) 인덱스에 따라 변하는 평균·분산을 숨겨진 상태 변수(state variable)로 모델링함으로써, 마코프 전이 혹은 연속적인 변동을 포착한다. (iii) 비가우시안·비정상성의 동시 존재는 위 두 모델을 결합한 복합 구조로, 숨겨진 변수 자체가 시간에 따라 변하는 하이퍼파라미터를 갖는다. 이러한 계층적 베이지안 모델은 사전분포를 명시적으로 정의함으로써 사후분포 추정이 가능해진다.

베이지안 추정 프레임워크에서는 일반적으로 변분 베이즈(Variational Bayes) 혹은 마르코프 체인 몬테카를로(MCMC) 방법을 사용한다. 논문에서는 변분 베이즈를 채택해 계산 복잡도를 크게 낮추면서도 근사 사후분포를 효율적으로 얻는 절차를 제시한다. 특히, 기대값-최대화(EM) 알고리즘과 유사한 형태의 업데이트 식을 도출해, 각 숨겨진 변수에 대한 사후 평균과 공분산을 반복적으로 갱신한다. 이 과정에서 사전으로 설정한 초매개변수(예: 가우시안 혼합의 컴포넌트 수, 상태 전이 확률)는 자동으로 학습되므로, 사용자는 사전 지식이 부족한 상황에서도 모델을 적용할 수 있다.

ICA/BSS에의 적용 측면에서는, 기존의 고정된 사전 대신 위에서 정의한 동적 사전을 이용해 독립 성분을 추정한다. 숨겨진 변수에 의해 조정된 선형 혼합 행렬은 각 반복 단계에서 업데이트되며, 이는 전통적인 고정 혼합 행렬 추정보다 더 유연한 적응성을 제공한다. 실험 결과(논문에 제시된 시뮬레이션 및 실제 이미지/음성 데이터)에서는 비가우시안·비정상성을 고려한 모델이 기존 ICA 알고리즘 대비 신호 복원 정확도와 소스 분리 성능이 현저히 향상됨을 보여준다.

그러나 몇 가지 한계점도 존재한다. 첫째, 숨겨진 변수의 차원을 과도하게 설정하면 변분 근사의 정확도가 떨어질 수 있다. 둘째, 변분 베이즈는 지역 최적에 머무를 위험이 있어 초기값 선택이 결과에 큰 영향을 미친다. 셋째, 실시간 처리 요구가 있는 응용에서는 여전히 계산량이 부담될 수 있다. 향후 연구에서는 스파스 베이즈 기법을 도입해 차원 축소를 자동화하고, 딥러닝 기반의 인코더·디코더와 결합해 추정 속도를 가속화하는 방안을 모색할 필요가 있다.