하이퍼볼릭 교차브랜치 일관성으로 일반화 가능한 의료 영상 분석

초록

본 논문은 의료 영상 분석에서 도메인 간 변동성을 극복하기 위해, 사전 학습된 Euclidean 백본 위에 경량 하이퍼볼릭 투영층을 추가하고, 저차원 하이퍼볼릭 브랜치를 이용한 도메인 불변 교차브랜치 일관성 손실을 도입한 HypCBC 방법을 제안한다. 11개의 인‑도메인 데이터셋과 3가지 ViT 백본에서 하이퍼볼릭 임베딩이 Euclidean 임베딩보다 유의미하게 높은 정확도를 보였으며, Fitzpatrick17k, Camelyon17‑WILDS, 망막 영상 교차‑데이터셋 등 3개의 도메인 일반화 벤치마크에서 평균 AUC 2.1%p 상승을 기록하였다.

상세 분석

HypCBC는 기존 Euclidean 기반 도메인 일반화 방법이 갖는 평면적 표현 한계를 하이퍼볼릭 공간의 음의 곡률을 활용해 보완한다. 논문은 먼저 대규모 의료 이미지 데이터셋(11개)에서 사전 학습된 ViT 백본을 고정하고, 두 개의 선형 투영 헤드를 각각 128차원과 2차원으로 매핑한다. 이 두 벡터는 Poincaré 볼(곡률 파라미터 c)으로의 exponential map을 통해 하이퍼볼릭 임베딩(z₁, z₂)으로 변환된다. 고차원 브랜치(z₁)는 세밀한 클래스 구분을 담당하고, 저차원 브랜치(z₂)는 정보 병목을 형성해 도메인 특이성을 억제한다. 두 브랜치 모두 다중 클래스 로지스틱 회귀(MLR) 헤드를 거쳐 logits을 생성하고, 각각 교차 엔트로피 손실을 적용한다. 핵심은 저차원 브랜치의 logits을 온도 스케일링 후 KL‑다이버전스로 고차원 브랜치에 정규화시키는 교차브랜치 일관성 손실(L_KL)이다. 이 과정은 전통적인 지식 증류와 유사하지만, 하이퍼볼릭 공간에서 차원 차이를 초월해 클래스 수준의 확률 분포를 정렬함으로써 도메인 불변 특성을 효과적으로 전이한다.

실험에서는 HypERM(단일 하이퍼볼릭 브랜치)과 비교해 두 브랜치를 결합한 HypCBC가 도메인 일반화 성능에서 일관되게 우수함을 확인했다. 특히 저차원 2‑D 브랜치를 사용했을 때, 파라미터 수가 크게 늘어나지 않음에도 불구하고 AUC가 평균 2.1%p 상승했으며, 이는 저차원 하이퍼볼릭 임베딩이 도메인 변동성을 억제하는 “정보 병목” 역할을 함을 시사한다. 또한, 차원 수를 2‑D에서 128‑D로 확대했을 때 성능이 오히려 감소하는 현상이 관찰돼, 고차원에서는 도메인 특이성이 다시 살아나는 것을 확인할 수 있었다.

수학적 관점에서 논문은 Poincaré 볼의 Möbius 덧셈, 거리 함수, exponential / logarithmic map을 정확히 정의하고, Euclidean 백본과의 매핑 과정에서 수치적 안정성을 확보하기 위해 curvature 파라미터 c를 적절히 조정한다. 또한, 하이퍼볼릭 MLR은 로그-확률을 거리 기반으로 계산해, 기존 소프트맥스와 동일한 확률 해석을 유지하면서도 곡률에 따른 거리 스케일링 효과를 활용한다.

전체적으로 이 연구는 (1) 하이퍼볼릭 임베딩이 의료 영상의 계층적 구조를 더 잘 포착한다는 실증적 증거, (2) 저차원 하이퍼볼릭 브랜치를 통한 도메인 불변 교차브랜치 일관성 정규화가 효과적인 도메인 일반화 전략임을 입증, (3) 기존 Euclidean 기반 방법 대비 구현 복잡도와 파라미터 증가가 최소화된 실용적인 프레임워크를 제공한다는 점에서 의미가 크다. 향후 연구는 하이퍼볼릭 백본을 완전 end‑to‑end로 학습하거나, 다중 도메인 라벨이 존재하는 상황에서 교차브랜치 일관성을 확장하는 방향으로 진행될 수 있다.