히스토프리즘: 판암 조직학으로부터 기능성 경로 예측을 여는 새로운 변환기 모델

초록

히스토프리즘은 전암(판-암) 조직학 이미지에서 유전자 발현을 예측하는 효율적인 트랜스포머 기반 모델이다. 기존 연구가 고변동 유전자에만 초점을 맞추고 기능적 일관성을 평가하지 못한 점을 보완하기 위해, 저자들은 50개의 Hallmark 및 87개의 Gene Ontology 경로를 이용한 Gene Pathway Coherence(GPC) 벤치마크를 제시한다. 실험 결과, 히스토프리즘은 최고 변동 유전자 예측 정확도뿐 아니라 경로 수준의 일관성에서도 기존 최첨단 모델을 크게 앞선다. 모델은 크기가 작고 연산 효율이 높아 임상 현장 적용 가능성이 높다.

상세 분석

본 논문은 조직학 이미지와 전사체 데이터를 연결하는 문제를 ‘시각‑분자 매핑’이라는 새로운 관점에서 접근한다. 기존 방법들은 대체로 대비 학습이나 복잡한 다단계 파이프라인에 의존했으며, 특히 암 종류별로 별도 모델을 학습하거나, 고변동 유전자(HVG)만을 대상으로 Pearson 상관계수(PCC)를 사용해 성능을 평가했다. 이러한 접근법은 (1) 암 간 이질성을 충분히 반영하지 못하고, (2) 기능적 일관성을 측정하지 못한다는 한계를 가진다.

히스토프리즘은 이러한 문제점을 해결하기 위해 세 가지 핵심 설계를 도입한다. 첫째, 사전학습된 병리학 파운데이션 모델(PFM)에서 추출한 패치 임베딩에 ‘암 종류’를 나타내는 원-핫 벡터를 교차‑어텐션(cross‑attention)으로 주입한다. 이를 통해 전암 환경에서도 암 특이적 패턴을 학습할 수 있다. 둘째, 교차‑어텐션으로 조절된 패치 특징을 다중 레이어 트랜스포머 인코더에 입력해 장거리 공간 의존성을 포착한다. 이는 종양 경계, 면역 세포 침윤 등 복합 조직 구조를 모델링하는 데 유리하다. 셋째, 트랜스포머 출력에 간단한 MLP 회귀 헤드를 연결해 직접 유전자 발현값을 예측한다. 손실 함수는 전체 패치에 대한 평균 제곱 오차(MSE)이며, 이는 기존 대비 학습 안정성을 높인다.

효율성 측면에서 히스토프리즘은 단일 교차‑어텐션 레이어(4 헤드)와 두 개의 트랜스포머 레이어만을 사용해 파라미터 수와 연산량을 크게 줄였다. 이는 STPath와 같은 대형 BERT‑스타일 모델에 비해 GPU 메모리 요구량이 현저히 낮으며, 임상 현장이나 중소 연구실에서도 실용적으로 적용할 수 있음을 의미한다.

평가 방법에서도 혁신을 제시한다. 기존의 ‘고변동 유전자 상관’ 지표는 변동성이 큰 소수 유전자에만 초점을 맞추어 전체 전사체의 기능적 구조를 반영하지 못한다. 저자들은 Gene Pathway Coherence(GPC) 벤치마크를 설계해, 50개의 Hallmark 세트와 87개의 GO 세트를 기반으로 50~100개의 유전자를 포함하는 비중복 경로 집합을 선정하였다. 각 경로에 대해 패치 수준에서 예측된 유전자와 실제 유전자의 Pearson 상관을 평균내어 경로‑레벨 일관성을 점수화한다. 이 방식은 모델이 단순히 개별 유전자를 맞추는 것이 아니라, 생물학적 프로세스 전체를 재현하는지를 평가한다.

실험 결과는 두 가지 주요 지표에서 히스토프리즘이 우수함을 보여준다. (1) HVG 상관에서는 기존 최첨단 모델들을 능가했으며, (2) GPC 점수에서도 현저히 높은 값을 기록했다. 특히, 판암 전반에 걸친 일반화 성능이 뛰어나, 다양한 암 유형과 데이터 수집 조건(스캐너, 염색 프로토콜 등)에서도 안정적인 예측을 수행한다. 반면, 최신 생성 모델인 STEM(확산 기반)과 STFlow(플로우 기반)는 파라미터 수와 학습 비용이 크게 증가함에도 불구하고, 판암 설정에서 경로 일관성 측면에서 현저히 낮은 성능을 보였다. 이는 현재 생성 모델이 다중 암 유형 간의 복합적인 시각‑분자 관계를 포착하는 데 한계가 있음을 시사한다.

결론적으로, 히스토프리즘은 (1) 효율적인 트랜스포머 설계, (2) 암 종류를 고려한 교차‑어텐션, (3) 새로운 경로‑레벨 평가 지표인 GPC를 통해 전암 조직학 기반 전사체 예측 분야에 새로운 표준을 제시한다. 모델의 경량화와 높은 생물학적 일관성은 향후 임상 병리학에서 유전자 발현을 비침습적으로 추정하고, 맞춤형 치료 전략을 수립하는 데 직접적인 활용 가능성을 높인다.