뇌종양 분할을 위한 단계적 V‑Net과 ROI 마스크 활용

초록

본 논문은 V‑Net 구조를 변형한 두 단계의 3차원 CNN을 연계하고, 뇌 영역과 종양 주변에 ROI 마스크를 적용해 학습 효율을 높인 뇌종양 자동 분할 방법을 제안한다. 첫 번째 네트워크는 전체 종양을 이진화하고, 두 번째 네트워크는 종양 내부의 세부 영역(부종, 강화 핵, 비강화 핵)을 다중 클래스 방식으로 구분한다. ROI 마스크를 통해 배경·비뇌 영역을 학습에서 제외함으로써 클래스 불균형을 완화하고, 전체 이미지에 대한 dense‑training을 가능하게 하였다. BraTS 2017 데이터셋에서 전체 종양(Whole Tumor) 영역의 Dice 점수는 경쟁력 있지만, 소규모 영역인 강화 핵과 종양 핵의 성능은 다소 낮았다.

상세 분석

본 연구는 기존 V‑Net의 구조적 복잡성을 줄이고, 학습 효율성을 극대화하기 위해 두 가지 핵심 설계를 도입한다. 첫째, 필터 크기를 5×5×5에서 3×3×3으로 축소하고, 활성화 함수를 PReLU에서 ReLU로 교체함으로써 파라미터 수와 연산량을 크게 감소시켰다. 또한 배치 정규화(BN)를 각 합성곱 블록 앞에 삽입해 내부 공변량 이동을 완화하고, 학습 안정성을 높였다. 둘째, 잔차 연결을 기존 V‑Net의 단순 합산 방식에서 아이덴티티 매핑 기반으로 재구성하였다. 차원 불일치가 발생하는 경우에는 최대 풀링과 복제 업샘플링, 1×1×1 합성곱을 이용해 공간 및 채널 차원을 맞춘 뒤 잔차를 더한다. 이러한 설계는 깊은 네트워크에서도 그래디언트 소실을 방지하고, 더 깊은 표현 학습을 가능하게 한다.

ROI 마스크의 활용은 두 단계 네트워크 모두에서 핵심적인 역할을 한다. 첫 번째 네트워크는 전체 뇌 마스크(뇌 조직만 포함) 내에서 이진 분할을 수행하도록 제한되며, 손실 함수는 Dice 계수를 사용해 종양·비종양 클래스 간 불균형을 보정한다. 두 번째 네트워크는 첫 단계에서 얻은 종양 후보 영역을 둘러싼 최소 직사각형 마스크를 적용해, 종양 주변 voxel만을 학습 대상으로 삼는다. 이렇게 함으로써 비종양 뇌 조직에 대한 불필요한 gradient 흐름을 차단하고, 소수 클래스(강화 핵, 비강화 핵)의 학습에 더 많은 신호를 집중시킨다. 손실 함수는 교차 엔트로피와 각 종양 서브클래스별 Dice 손실을 가중합한 형태(L₂ = XE + 0.5·(D_WT + D_ET + D_TC))로, 다중 클래스 불균형을 동시에 완화한다.

학습 전략은 패치 기반이 아닌 dense‑training 방식을 채택해, 배치당 하나의 전체 환자 볼륨만을 사용한다. 이는 메모리 요구량을 크게 늘리지 않으면서도 전체 해부학적 구조를 학습에 활용할 수 있게 한다. 또한 데이터 증강으로는 좌우 대칭 반사를 적용해 훈련 샘플 다양성을 확보하였다.

실험 결과는 BraTS 2017 훈련·검증 세트에서 전체 종양(Whole Tumor) 영역에 대해 Dice ≈ 0.710.88, Hausdorff ≈ 59 mm 수준의 성능을 보였으며, 이는 최신 방법들과 비슷하거나 약간 뒤처진 수준이다. 그러나 강화 핵(ET)과 종양 핵(TC) 영역에서는 Dice ≈ 0.630.64, Hausdorff ≈ 1112 mm으로, 소수 클래스에 대한 정확도가 현저히 낮았다. 민감도(sensitivity) 역시 ET와 TC에서 0.72~0.73 수준에 머물러, 작은 종양 부위가 충분히 탐지되지 못함을 나타낸다. 학습 과정에서 18 epoch(≈3600 iteration) 이후 종양 핵 영역의 손실이 감소하기 시작하지만, 검증 손실은 오히려 상승하는 과적합 현상이 관찰되었다. 시각적 분석에서도 전체 종양은 잘 검출되지만, 세부 영역 구분이 부정확한 사례가 다수 보고되었다.

결론적으로, ROI 마스크 기반의 단계적 V‑Net은 전체 종양 검출에서는 효과적이지만, 소수 클래스에 대한 가중치 조정이나 더 정교한 샘플링 전략이 필요함을 시사한다. 향후 연구에서는 소규모 종양 부위에 대한 손실 가중치를 동적으로 조정하거나, 멀티‑스케일 컨텍스트 정보를 강화하는 방법을 탐색할 여지가 있다.