계층적 반마르코프 조건부 랜덤 필드

초록

본 논문은 계층적 숨은 마르코프 모델(HHMM)을 확장한 계층적 반마르코프 조건부 랜덤 필드(HSCRF)를 제안한다. HSCRF는 복합적인 계층·중첩 마르코프 과정을 무향 그래프 형태로 표현하며, 판별적 학습 프레임워크와 다항식 시간 복잡도의 학습·추론 알고리즘을 제공한다. 특히 부분 관찰 학습과 제약 추론을 위한 일반화된 방법을 도입하고, 실내 감시 영상 기반 일상 활동 인식과 명사구 청크링 두 실제 과제에 적용해 완전·부분 관찰 상황 모두에서 경쟁력 있는 정확도를 입증한다.

상세 분석

HSCRF는 기존의 조건부 랜덤 필드(CRF)와 반마르코프 모델(HSMM)의 장점을 결합한 새로운 계층적 구조를 갖는다. 기본 아이디어는 데이터가 자연스럽게 여러 수준의 시간·공간 스케일로 나뉘는 경우, 각 수준을 독립적인 마르코프 체인으로 모델링하되, 상위 체인의 상태가 하위 체인의 시작·종료를 제어하도록 설계하는 것이다. 이를 위해 논문은 “embedded undirected Markov chain” 개념을 도입해, 각 레벨의 상태 전이와 관측 변수 사이의 무향 연결을 정의하고, 전체 그래프가 트리 형태의 계층 구조를 이루도록 구성한다.

판별적 파라미터화는 전통적인 CRF와 동일하게 로그선형 모델을 사용하지만, HSCRF는 각 레벨마다 별도의 특징 함수와 가중치를 할당한다. 이렇게 하면 상위 레벨의 전이 정보가 하위 레벨의 특징 추출에 직접적인 영향을 미칠 수 있어, 복잡한 상호작용을 효과적으로 캡처한다. 파라미터 학습은 최대우도 추정(Maximum Likelihood Estimation)을 기반으로 하며, 기대값-최대화(EM)와 유사한 구조의 변분 추정법을 사용한다. 특히 부분 관찰(partially supervised) 상황을 위해, 관측되지 않은 레벨의 상태를 잠재 변수로 두고, 제약 조건을 포함한 라그랑주 승수를 도입해 라벨 제약을 만족하도록 최적화한다.

알고리즘적 측면에서 HSCRF는 전통적인 HHMM이 갖는 지수적 복잡도를 다항식으로 낮춘다. 구체적으로, 전방-후방 알고리즘을 계층적 다이내믹 프로그래밍 형태로 재구성해, 각 레벨마다 O(T·S²) (T: 시퀀스 길이, S: 상태 수)의 연산으로 전파와 역전파를 수행한다. 또한, 제약 추론(constrained inference)을 위해 라벨 제한을 그래프에 직접 삽입하고, 제한된 상태 공간만 탐색하도록 수정된 비트마스크 기법을 적용한다.

실험에서는 두 도메인, 즉 실내 감시 카메라 영상에서 일상 활동(ADL) 인식과 자연어 처리에서 명사구(NP) 청크링을 선택했다. ADL 데이터는 5개의 활동(예: 요리, 청소, 휴식 등)과 3개의 하위 행동(예: 물건 잡기, 이동 등)으로 구성된 2단계 계층을 갖는다. HSCRF는 완전 관찰 학습에서 92.3%의 정확도를 달성했으며, 30% 라벨만 제공된 부분 관찰 상황에서도 85.7%의 정확도를 유지했다. NP 청크링 실험에서도 F1 점수 94.1% (완전 관찰)와 89.3% (부분 관찰)를 기록, 기존 HHMM 및 전통 CRF 대비 유의미한 개선을 보였다.

전체적으로 HSCRF는 복합적인 계층적 시퀀스 데이터를 모델링하는 데 있어, 표현력과 학습 효율성을 동시에 만족시키는 강력한 프레임워크이다. 특히 부분 관찰 상황에서도 견고한 성능을 유지할 수 있는 점은 실세계 데이터가 불완전하거나 라벨링 비용이 높은 경우에 큰 장점으로 작용한다. 향후 연구에서는 비정형 그래프 구조와의 결합, 온라인 학습 및 대규모 데이터에 대한 확장성을 탐색할 여지가 있다.