주의 메커니즘을 활용한 당뇨망막병증 병변 분할

초록

본 연구는 DeepLab‑V3+에 Convolutional Block Attention Module(CBAM)을 결합한 Attention‑DeepLab 모델을 제안한다. DDR 데이터셋의 757장 이미지에서 미세동맥류, 연질 및 경질 지방변, 출혈 네 종류의 병변을 픽셀 수준으로 분할하고, mAP를 0.3010에서 0.3326으로, mIoU를 0.1791에서 0.1928으로 향상시켰다. 특히 미세동맥류 검출 AP가 0.0205에서 0.0763으로 272 % 상승해 임상적 의미가 크다.

상세 분석

본 논문은 당뇨망막병증(DR) 스크리닝에서 가장 중요한 초기 징후인 미세동맥류(MA)의 검출을 강화하기 위해, 기존의 강력한 세그멘테이션 프레임워크인 DeepLab‑V3+에 경량 주의 메커니즘인 CBAM을 두 단계에 삽입한 구조를 설계하였다. 첫 번째 CBAM은 ASPP 이후의 고수준 특징(256채널, 16×16 해상도)에 적용돼 채널‑공간 주의를 동시에 수행함으로써 병변 특유의 의미적 정보를 강조한다. 두 번째 CBAM은 디코더의 저수준 특징(256→48채널, 128×128 해상도) 뒤에 배치돼 경계와 미세 구조를 정교화한다. 이러한 이중‑주목 구조는 “무엇을”(채널)과 “어디를”(공간) 집중하는 CBAM의 장점을 계층적으로 결합해, 특히 픽셀 수가 극히 적은 MA와 같은 작은 병변을 효과적으로 포착한다.

데이터 전처리에서는 512×512로 리사이즈 후, 수평·수직 플립, 90도 회전, 스케일·시프트·회전 변형, 색상·명암·감마 조정, 가우시안 노이즈·블러, 그리고 탄성·그리드·광학 왜곡 등 다양한 증강을 적용해 모델의 일반화 능력을 극대화하였다. 특히 작은 병변 보존을 위해 탄성 변환과 광학 왜곡을 ‘One Of’ 방식으로 선택 적용함으로써 병변 형태는 유지하면서 다양한 시점 변화를 시뮬레이션했다.

손실 함수는 이진 교차 엔트로피, 포컬 손실, Dice 손실, 경계 손실을 가중합한 복합 손실을 사용하였다. 포컬 손실(α=0.25, γ=2.0)은 클래스 불균형을 완화하고 어려운 샘플에 집중하도록 설계됐으며, Dice 손실은 전역적인 겹침을 최적화한다. 경계 손실은 Sobel 연산을 통해 구한 그라디언트에 지수 가중치를 부여해 병변 경계의 정밀도를 강화한다. 가중치 비율(w_dice=1.0, w_bce=0.5, w_focal=1.0, w_boundary=0.5)은 실험적으로 최적화되었다.

학습은 Adam 옵티마이저(β1=0.9, β2=0.999)와 초기 학습률 1e‑4, ReduceLROnPlateau 스케줄러, 배치 사이즈 4, 최대 15 epoch 조기 종료 조건으로 진행됐으며, Nvidia A100 GPU에서 구현되었다. 평가 지표는 IoU와 평균 정밀도(AP), 그리고 클래스별 mAP를 사용했다. 결과는 DeepLab‑V3+ 대비 전체 mAP가 0.3010→0.3326(+10.5 %), mIoU가 0.1791→0.1928(+7.6 %) 향상되었으며, 특히 MA의 AP가 0.0205→0.0763으로 272 % 상승했다. 이는 기존 연구에서 2 % 수준에 머물렀던 MA 검출을 실질적인 임상 활용 수준으로 끌어올린 것으로, 조기 치료 결정에 큰 기여를 기대한다.

한편, U‑Net과 Gated U‑Net과 같은 기존 의료 이미지 세그멘테이션 모델과도 비교했을 때, 제안 모델은 전체 mAP와 mIoU 모두에서 우위를 점했다. 다만 배치 사이즈와 GPU 메모리 제한으로 인한 학습 효율성, 그리고 DDR 데이터셋의 제한된 라벨링(757장)으로 인한 일반화 검증 필요성은 향후 연구 과제로 남는다.

요약하면, CBAM 기반 이중‑주목 메커니즘을 DeepLab‑V3+에 통합함으로써 DR 병변, 특히 미세동맥류와 같은 초소형 병변의 픽셀‑레벨 검출 성능을 크게 향상시켰으며, 이는 자동화된 DR 스크리닝 시스템이 임상 현장에서 실제 진단 보조 도구로 전환되는 데 중요한 발판을 제공한다.