다중암 CT 스크리닝을 위한 ‘한눈에·집중’ 강화학습 프레임워크

초록

**
GF‑Screen은 전체 CT 영상에서 병변이 있는 영역을 빠르게 탐색(Glance)하고, 선택된 영역을 정밀하게 분할(Focus)하는 두 단계 구조를 제안한다. Glance 모델은 강화학습으로 보상을 받아 비병변 영역을 배제하고, 그룹 상대 학습을 통해 동일 그룹 내에서 높은 이득을 보이는 서브볼륨을 우선한다. 9종 병변, 23개 데이터셋(5 117건)에서 기존 최고 성능을 크게 뛰어넘으며, 연산량을 5.7배 절감한다.

**

상세 분석

**
본 논문은 대규모 CT 영상에서 다중암 병변을 동시에 검출·분할하는 ‘pan‑cancer screening’ 문제를 다루며, 두 가지 핵심 난관을 명확히 제시한다. 첫째, 병변이 전체 부피에 비해 극히 작은 비율(0.085 % 이하)로 존재해 전통적인 슬라이딩 윈도우 방식은 심각한 전경‑배경 불균형을 초래한다. 이는 모델이 병변을 인식하기보다 정상 조직에 과도하게 집중하게 만들며, 결과적으로 거짓 양성률이 상승하고 연산 효율이 저하된다. 둘째, 기존 방법들은 모든 서브볼륨에 대해 동일하게 세그멘테이션을 수행하므로, 불필요한 연산이 대량 발생한다.

GF‑Screen은 방사선과 의사가 진단 시 “전체를 한눈에 살피고(Glance), 의심 부위만 집중한다(Focus)”는 전략을 모방한다. Glance 모델은 경량 분류기로서 CT 전체를 여러 서브볼륨으로 나눈 뒤, 각 서브볼륨이 병변을 포함하는지 여부를 판단한다. 여기서 중요한 점은 선택 과정이 비미분 가능하다는 점이다. 논문은 이를 해결하기 위해 강화학습(RL) 프레임워크를 도입한다. Glance 모델은 정책 네트워크 역할을 수행하고, Focus 모델이 생성한 세그멘테이션 결과(예: Dice 점수, IoU 등)를 보상 신호로 사용한다. 보상은 단순히 병변 존재 여부가 아니라, 해당 서브볼륨에서 얻은 세그멘테이션 품질에 기반한다.

특히 ‘그룹 상대 학습(Group Relative Learning)’이라는 새로운 학습 패러다임을 제안한다. 동일 그룹에 속한 N개의 서브볼륨에 대해, 각 서브볼륨의 보상(advantage)을 비교해 상대적으로 높은 서브볼륨만을 강화하고, 낮은 서브볼륨은 억제한다. 이는 기존의 클래스 불균형을 완화하고, 부분적으로만 병변이 포함된 ‘불리한 뷰’를 자동으로 배제한다. 결과적으로 Glance 모델은 최적의 진단 뷰(완전 병변 포함, 좋은 각도)를 우선 선택하게 된다.

학습 단계에서는 모든 서브볼륨에 대해 Focus 모델이 세그멘테이션을 수행하고, 그 결과를 기반으로 Glance 모델의 정책을 업데이트한다. 추론 단계에서는 Glance 모델이 “병변 포함”이라고 판단한 서브볼륨만을 Focus 모델에 전달하므로, 전체 연산량이 크게 감소한다(5.7배 가속).

실험 결과는 설득력 있다. 9가지 병변(폐암, 폐결절, COVID‑19, 흉수, 간암, 췌장암, 신장암, 부신암, 대장암)과 23개 공개·내부 데이터셋을 통합한 5 117건 CT에 대해, 기존 최첨단 nnUNet, SwinUNETR, PASTA 등과 비교해 Dice 계수(DSC)와 Normalized Surface Distance(NSD) 모두 25 % 이상 향상되었다. 특히 MICCAI FLARE25 공개 검증 리더보드에서 1위에 오르며, 전년도 챔피언 대비 DSC +25.6 %, NSD +28.2 %의 대폭적인 개선을 기록했다.

한계점으로는 Glance 모델이 서브볼륨 단위의 이진 선택에 의존하므로, 매우 작은 병변이 전체 서브볼륨에 걸쳐 분산될 경우 놓칠 가능성이 있다. 또한 강화학습의 수렴 속도가 데이터와 보상 설계에 민감하게 좌우될 수 있어, 보상 함수의 추가적인 정교화가 필요하다. 향후 연구에서는 멀티스케일 탐색, 연속적인 시점 선택(시퀀스 모델) 및 비지도 사전학습을 결합해 더욱 정교한 ‘시선 이동’ 전략을 구현할 여지가 있다.

**