대안 CellLineNet 진화적 설계 탐구

초록

본 논문은 진화 알고리즘을 활용해 CellLineNet의 구조를 자동 탐색하고, 최적의 블록 조합으로 5가지 유방 상피 세포주를 분류하는 모델(CellLineNet V2)을 제시한다. 검색 공간에는 역잔차 블록, 병목 블록, 잔차 블록, 2×2 기본 컨볼루션 블록이 포함되며, 각 세대마다 적합도가 향상되는 과정을 시각화한다. 결과적으로 진화된 모델은 기존 이진 분류 모델을 확장해 다중 클래스 성능을 크게 개선하였다.

상세 분석

이 연구는 신경망 아키텍처 설계에 진화적 탐색을 적용한 최초 사례 중 하나로, 기존의 수동 설계 방식이 갖는 편향과 제한을 극복하고자 한다. 검색 공간은 현대 모바일 네트워크에서 널리 사용되는 역잔차(inverted residual) 블록, 병목(bottleneck) 블록, 전통적인 잔차(residual) 블록, 그리고 2×2 커널을 갖는 기본 컨볼루션 블록으로 구성되었다. 각 블록은 채널 수, 확장 비율, 스트라이드, 활성화 함수 등 다중 파라미터를 가지고 있어 조합 가능성이 기하급수적으로 증가한다.

진화 알고리즘은 유전 연산자(교차, 돌연변이)를 통해 개체군을 생성하고, 적합도 함수는 검증 데이터셋에서의 다중 클래스 정확도와 파라미터 수, FLOPs 등을 복합적으로 고려한 가중합으로 정의하였다. 이를 통해 모델 복잡도와 성능 사이의 트레이드오프를 자동으로 조정한다. 세대가 진행될수록 적합도 곡선은 급격히 상승하다가 점차 평탄화되는 모습을 보였으며, 최종 세대에서는 5가지 세포주에 대해 평균 정확도 96.3%를 달성하였다.

특히, 진화 과정에서 발견된 최적 구조는 기존 MobileNetV2와 EfficientNet의 설계 원리를 혼합한 형태로, 초기 레이어에서는 2×2 기본 컨볼루션을 사용해 저해상도 특징을 빠르게 추출하고, 중간 단계에서는 역잔차 블록을 다중 스케일로 쌓아 풍부한 표현력을 확보한다. 마지막 단계에서는 병목 블록과 잔차 연결을 통해 깊이와 폭을 동시에 확장함으로써 과적합을 방지한다. 이러한 블록 배치는 각 세포주의 형광 이미지에서 나타나는 미세한 형태학적 차이를 효과적으로 구분하는 데 기여한다.

또한, 실험에서는 기존 CellLineNet(이진 분류)와 비교해 파라미터 수는 약 12% 감소했음에도 불구하고 다중 클래스 정확도가 8% 이상 향상되는 결과를 얻었다. 이는 진화적 탐색이 단순히 성능을 높이는 것이 아니라, 효율적인 모델 압축과 일반화 능력 강화에도 유리함을 시사한다.

한계점으로는 검색 공간이 제한적이며, 진화 과정에 소요되는 계산 비용이 상당히 크다는 점이다. 향후 연구에서는 메타러닝 기반 초기화, 다중 목표 최적화(Multi‑Objective) 기법, 그리고 하드웨어‑인식 비용 모델을 도입해 탐색 효율성을 높일 필요가 있다.