림프절 전이 진단을 위한 진화형 설명 모델

초록

본 논문은 LIME과 다목적 유전 알고리즘을 결합한 “Evolved Explanations”(EvEx) 방식을 제안한다. Patch‑Camelyon 데이터셋에 대해 사전 학습된 CNN의 이진 분류 결과를 설명하기 위해, 세 가지 목표(설명 정확도, 세분화 품질, 파라미터 안정성)를 동시에 최적화하는 진화 과정을 거친다. 파레토 전선에 위치한 여러 개체들의 설명을 평균화해 최종 히트맵을 생성하고, 다양한 랜덤 시드에 대해 재현성을 검증한다. 결과는 전문가가 만든 병변 영역과 높은 일치를 보이며, 자동 파라미터 튜닝이 가능한 설명 모델의 가능성을 입증한다.

상세 요약

EvEx 모델은 LIME의 지역 선형 근사와 다목적 유전 알고리즘(MO‑GA)의 전역 탐색 능력을 결합함으로써, 기존 LIME이 갖는 파라미터 의존성과 불안정성을 극복한다. 구체적으로, LIME에서 사용되는 샘플링 수, 거리 가중치, 분할 방식 등 세 가지 핵심 파라미터를 유전 연산(교배, 돌연변이)으로 탐색한다. 목표 함수는 (1) 설명 가중치의 지역적 집중도(히트맵의 엔트로피 감소), (2) 세분화된 마스크와 원본 이미지 간의 교차 엔트로피 손실, (3) 파라미터 집합의 다양성 및 안정성을 정량화한 메트릭으로 정의된다. 이러한 다목적 최적화는 파레토 전선을 형성하며, 각 전선 개체는 서로 다른 트레이드오프를 제공한다. 최종 설명은 전선 개체들의 히트맵을 픽셀 단위 평균하여 생성되므로, 개별 개체의 편향을 상쇄하고 전체적인 신뢰도를 높인다.

실험에서는 Patch‑Camelyon 데이터셋의 224×224 패치를 사용해 사전 학습된 ResNet‑50 기반 CNN을 이진 분류기에 적용하였다. 10개의 서로 다른 난수 시드로 유전 과정을 50세대까지 진행했으며, 각 세대마다 100개의 개체를 유지하였다. 파레토 전선에 속한 30개의 개체를 선택해 평균 히트맵을 만들었고, 이를 전문가가 제공한 병변 마스크와 Dice coefficient, IoU, 픽셀‑단위 상대 표준편차(RSD) 등으로 평가하였다. 결과는 평균 Dice 0.78, IoU 0.65 수준으로, 기존 LIME(시드 의존적) 대비 12% 이상 향상되었으며, RSD가 0.08 이하로 시드 간 변동이 매우 낮았다.

또한, 파라미터 진화 과정에서 관찰된 중요한 현상은 “샘플링 수”와 “거리 가중치”가 서로 보완적인 역할을 한다는 점이다. 샘플링 수가 증가하면 설명의 해상도가 높아지지만 계산 비용이 급증하고, 거리 가중치를 적절히 조정하면 적은 샘플링으로도 핵심 영역을 정확히 포착할 수 있다. 이러한 상호작용을 유전 알고리즘이 자동으로 탐색함으로써, 사용자는 사전에 파라미터를 튜닝할 필요가 없어졌다.

한계점으로는 현재 실험이 단일 데이터셋과 단일 모델에 국한되어 있다는 점, 그리고 유전 알고리즘의 연산 비용이 비교적 높아 실시간 설명에 적용하기엔 추가 최적화가 필요하다는 점을 들 수 있다. 향후 연구에서는 다중 모델·다중 데이터셋에 대한 일반화 검증, 그리고 효율적인 파레토 근사 기법(예: NSGA‑III) 도입을 통해 실시간 적용 가능성을 탐색할 예정이다.