딥 등록 네트워크의 음수 야코비안 감소 방법

본 연구는 비지도 딥러닝 기반 의료 영상 정합에서 흔히 발생하는 변형 필드의 “folding”(음수 야코비안) 문제를 해결하고자 한다. 변형이 미분동형사상(diffeomorphism)이어야 하는 이론적 요구사항을 만족시키기 위해, 기존 방법들은 주로 변형 필드의 국부적 매끄러움을 정규화하는 손실(예: 공간 변동 손실)을 사용했지만, 이는 종종 음수 야코비안이 발생하는 비가역적인 변형을 완전히 억제하지 못한다. 기존 연구에서는 음수 야코비안을 직접 페널티화하는 손실을 도입했지만, 정규화 강도 λ의 미세 조정이 필요하고 다른 손실과의 트레이드오프를 맞추기가 어려웠다. 이에 저자들은 두 가지 새로운 학습 메커니즘을 제안한다. 첫 번째는 **사이클 일관성 설계**이다. 변형 네트워크를 한 번 정방향으로 적용해 원본 이미지 x와 목표 이미지 y를 입력하면 변형 u₁을 통해 변형된 이미지 ŷ를 만든다. 이어서 ŷ와 x를 다시 입력해 역변형 u₂를 학습한다. 이때 네트워크는 앞·뒤 변형이 서로 역함수 관계를 이루도록 강제되며, 이는 변형이 가역적이어야 한다는 수학적 요구를 학습 과정에 직접 반영한다. 이 설계는 추가 파라미터를 도입하지 않으며, 기존 U‑Net 기반 변형 유닛에 그대로 적용할 수 있다. 두 번째는 **정제 모듈**이다. 학습을 두 단계로 나누어 첫 단계에서는 변형 정확도에 집중하고, 두 번째 단계에서는 더 강한 매끄러움 정규화(λ를 크게 설정)와 함께 정제 네트워크가 기존 변형을 미세 조정한다. 두 네트워크는 교대로 학습되며, 정제 단계에서 발생하는 역함수 정리(Inverse Function Theorem) 기반 매끄러움 제약이 자연스럽게 음수 야코비안 영역을 감소시킨다. 실험은 MindBoggle101 데이터셋의 세 서브셋(NKI‑RS‑22, NKI‑TRT‑20, OASIS‑TRT‑20)을 사용해 3‑fold 교차 검증을 수행했다. 기준 모델은 VoxelMorph이며, 사이클 일관성 모델은 평균 0.13 %의 음수 야코비안 비율, 정제 모델은 0.20 %를 기록했다. 이는 기존 1.97 % 대비 10배 이상 감소한 수치이다. 정합 정확도는 다이스 점수(Dice score)로 평가했으며, 세 모델 모두 유사한 수준을 유지해 정합 성능에는 큰 손실이 없음을 확인했다. 시각적 결과에서도 사이클 일관성 및 정제 모델이 접힘 영역을 효과적으로 “펼쳐” 주는 것이 확인되었다. 결론적으로, 이 논문은 (1) 손실 함수를 새로 정의하지 않고 변형의 가역성을 강화하는 사이클 일관성 학습 프레임워크, (2) 변형 생성과 정제를 별도 단계로 분리해 교대로 학습하는 정제 모듈을 제안한다. 두 방법 모두 기존 네트워크 구조와 하이퍼파라미터를 그대로 유지하면서 변형의 기하학적 품질을 크게 개선한다는 점에서 실용적이며, 향후 다른 딥 정합 모델에도 손쉽게 적용 가능할 것으로 기대된다.