조직 배열 이미지 통계 분석: 알고리즘 점수 매기기와 공동 학습

초록

본 논문은 조직 마이크로어레이(TMA) 이미지의 자동 점수를 위해 텍스처 기반 GLCM(그레이 레벨 공분산 행렬)과 랜덤 포레스트를 결합한 TACOMA 알고리즘을 제안한다. 병리학자의 소수의 패치 입력으로 특징 마스크를 생성하고, 공동 학습(co‑training) 기법을 활용해 훈련 샘플이 30개 수준일 때도 높은 정확도를 달성한다. 에스트로겐 수용체(ER) 마커 실험에서 인간 병리학자와 동등하거나 더 우수한 성능을 보이며, 반복성도 향상된다.

상세 분석

TACOMA는 조직 마이크로어레이 이미지의 텍스처 정보를 정량화하기 위해 전통적인 GLCM을 전체 행렬 형태로 활용한다는 점에서 차별화된다. 기존 방법들은 GLCM에서 엔트로피, 대비, 동질성 등 몇 가지 통계량만 추출했지만, 본 연구는 모든 GLCM 엔트리를 그대로 피처로 사용한다. 이를 위해 고차원 피처 공간(수천 차원)에서도 과적합을 방지하고 변수 선택을 자동화할 수 있는 랜덤 포레스트(RF)를 기본 분류기로 채택하였다. RF는 각 트리에서 무작위로 선택된 피처 서브셋을 이용해 다수결 방식으로 예측을 수행하므로, 텍스처 피처 간의 복잡한 비선형 관계를 효과적으로 포착한다.

핵심적인 혁신은 ‘도메인 지식 기반 마스크’이다. 병리학자가 직접 선택한 소수의 이미지 패치를 통해 GLCM 엔트리 중 의미 있는 부분만을 추출하고, 이를 전역 마스크로 적용한다. 이렇게 하면 비특이적 배경(섬유, 혈관 등)에서 발생할 수 있는 잡음 피처를 사전에 차단함으로써 분류기의 신뢰성을 크게 높인다. 마스크 생성 과정은 인간이 직접 피처를 지정하는 것이 아니라, 패치에서 나타나는 GLCM 엔트리의 빈도 패턴을 자동으로 집계하는 비파라메트릭 방식이므로, 전문가의 부담을 최소화하면서도 전문가 지식을 효과적으로 반영한다.

또 다른 중요한 기여는 공동 학습(co‑training) 전략이다. 고차원 피처를 두 개의 ‘뷰(view)’로 나누어 각각 독립적인 RF 모델을 학습시킨 뒤, 서로가 자신 있게 예측한 라벨을 상대 모델의 학습 데이터에 추가한다. 논문에서는 ‘특징 얇게 만들기(thinning)’라는 이론적 근거를 제시하여, 두 뷰가 충분히 상호 보완적이고冗余(redundant)할 경우 전체 피처 집합과 동일한 분류력을 유지한다는 것을 증명한다. 실험 결과, 초기 라벨이 30개뿐인 상황에서도 공동 학습을 적용하면 오류율이 크게 감소하고, 최종 정확도가 78% 수준에 도달한다.

성능 비교에서는 SVM, 부스팅, 나이브 베이즈 등 전통적인 분류기와 대비했을 때 RF 기반 TACOMA가 가장 높은 정확도와 안정성을 보였다. 특히 ER 마커에 대한 4점 스케일 평가에서 인간 병리학자 간의 변동성을 초과하는 재현성을 달성했으며, 점수 산출 과정에서 기여 픽셀을 시각화함으로써 결과 해석성을 크게 향상시켰다.

한계점으로는 GLCM 계산 시 회색 레벨 수(Ng)를 사전에 정의해야 하며, 이는 이미지 품질에 따라 민감하게 작동할 수 있다. 또한 공동 학습을 위한 ‘자연스러운 뷰 분할’이 존재하지 않을 경우, 임의의 피처 얇게 만들기가 실제 데이터에서 얼마나 일관된 성능을 보이는지는 추가 검증이 필요하다. 향후 연구에서는 다중 스테인(핵, 세포질, 막)에 대한 다중 마스크 설계와, 딥러닝 기반 텍스처 추출과의 하이브리드 모델을 탐색함으로써 현재의 제한을 보완할 수 있을 것이다.