설명 가능한 해부학적 형태 분석을 위한 깊은 계층 생성 모델

본 논문은 의료 영상에서 해부학적 형태 변화를 정량화하고, 이를 임상 진단·치료에 활용하기 위한 새로운 딥러닝 기반 프레임워크를 제시한다. 기존의 전통적인 형태 분석은 전체 부피·질량 등 스칼라 지표에 의존해 지역적·비대칭적 변이를 놓치기 쉬웠으며, 최신 딥러닝 분류 모델은 높은 정확도를 보이지만 ‘왜’ 특정 결론에 도달했는지 설명이 부족했다. 이를 해결하고자 저자들은 라더 변분 오토인코더(Ladder VAE, LVAE)를 기반으로 한 계층적 생성 모델을 설계하고, 가장 높은 레벨의 잠재 변수(z_L)를 2차원으로 제한하면서 동시에 질병 라벨(y)과 공동 학습한다. 이 모델의 핵심 아이디어는 두 가지이다. 첫째, LVAE는 여러 단계의 조건부 잠재 변수를 도입해 입력 세그멘테이션을 점진적으로 압축한다. 하위 레벨(z_1,…,z_{L‑1})은 형태 전반에 걸친 변이(예: 전체 크기, 일반적인 형태 변형)를 담당하고, 최상위 레벨(z_L)은 분류에 가장 중요한 변이만을 추출하도록 유도한다. 둘째, z_L을 2차원으로 강제함으로써 학습 과정에서 바로 시각화 가능한 ‘분류 공간’을 만든다. 이 공간에서 서로 다른 임상 그룹은 명확히 구분되는 클러스터를 형성하고, 잠재 좌표를 연속적으로 이동시켜 디코더를 통해 재구성된 세그멘테이션을 확인하면 해당 좌표가 의미하는 형태 변화를 직관적으로 파악할 수 있다. 기술적 구현은 다음과 같다. 입력으로 3D 바이너리 세그멘테이션 x를 받아 3D 컨볼루션 인코더가 순차적으로 z_1,…,z_L을 추출한다. 각 레벨 i에서 인코더는 평균 µ_{d,i}와 분산 σ²_{d,i}를 출력해 가우시안 q_φ(z_i|·)를 정의한다. 디코더는 z_L부터 역순으로 결합해 x̂를 재구성한다. 손실 함수는 세 부분으로 구성된다. (1) 재구성 손실: Dice‑Loss와 L2 손실을 결합해 형태 정확성을 보장한다. (2) KL 발산 손실: 각 q_φ(z_i|·)를 사전 정의된 정규 가우시안 p_θ(z_i|z_{i+1})에 맞추어 잠재 분포를 규제한다. (3) 분류 손실: 최상위 잠재 변수 z_L을 입력으로 하는 MLP 분류기와 softmax를 통해 교차 엔트로피 손실을 계산한다. 전체 손실은 λ₁·Reconstruction + λ₂·KL + λ₃·Classification 형태로 가중치를 조절한다. 실험은 두 가지 도메인에서 수행되었다. 첫 번째는 다기관에서 수집한 좌심실(LV) 세그멘테이션 데이터로, 건강군과 비대증(HCM) 환자를 구분한다. 두 번째는 ADNI 데이터베이스의 해마 세그멘테이션으로, 건강군과 알츠하이머(AD) 환자를 구분한다. 각각 5‑fold 교차 검증과 외부 검증 세트를 사용했으며, LVAE‑based 모델은 기존 단일‑latent VAE와 비교해 평균 4~5% 높은 AUC(≈0.96)와 Dice ≈ 0.92의 재구성 정확도를 달성했다. 특히 2D 잠재 공간에서 HCM과 Healthy, AD와 Control이 명확히 구분되는 클러스터를 형성했으며, 잠재 좌표를 따라 이동시킨 가상 세그멘테이션은 HCM 환자에서 전벽·중간벽 비대, AD 환자에서 해마 체축부 위축 등 알려진 병리학적 패턴을 재현했다. 이 모델의 장점은 다음과 같다. (1) 해부학적 형태 변이를 자동으로 추출하면서도, 가장 중요한 변이만을 최상위 잠재 공간에 집중시켜 분류 성능을 극대화한다. (2) 생성 모델의 특성 덕분에 임의의 잠재 좌표에 대한 가상 형태를 시각화할 수 있어, “왜 이 환자가 특정 클래스에 속하는가”라는 질문에 대한 직관적인 답변을 제공한다. (3) 2차원 잠재 공간을 직접 학습함으로써 별도의 차원 축소 단계 없이 대규모 코호트 연구에서 고속 클러스터링·시각화가 가능하다. (4) 계층적 구조 덕분에 하위 레벨이 전체 형태 변이를 보존하므로, 재구성 정확도도 기존 VAE보다 우수하다. 결론적으로, 저자들은 라더 VAE 기반의 계층적 생성 모델을 통해 해부학적 형태 분석에 설명 가능성을 부여하고, 대규모 임상 연구에 적용 가능한 고성능·고해석성 프레임워크를 제시한다. 코드와 학습된 모델은 공개 저장소에 제공되어 재현성과 확장성을 보장한다.