AI 기반 하이브리드 생태학 모델로 온콜리틱 바이러스 치료 동역학 예측

초록

본 연구는 시간 지연을 포함한 일반화된 Lotka‑Volterra 방정식에 유전 알고리즘, 차등 진화, 강화학습을 결합한 데이터‑드리븐 하이브리드 모델을 제시한다. 모델은 종양‑바이러스‑면역 상호작용을 포식‑피식 체계로 형식화하고, 실험 데이터에 대한 평균제곱오차(MSE) < 0.02, 결정계수(R²) > 0.82를 달성하였다. 또한 TNF, NF‑κB, CD81, TRAF2, IL‑18, BID 등 6개의 바이오마커를 주요 예측인자로 식별했으며, 이들 유전자는 Gene Set Enrichment 분석을 통해 종양 진행과 면역 활성화에 핵심적임이 확인되었다. 모델은 실시간 예측과 치료 최적화를 가능하게 하여 정밀 종양학에 새로운 도구를 제공한다.

상세 분석

이 논문은 온콜리틱 바이러스 치료(OVT)의 복잡한 종양‑바이러스‑면역 네트워크를 생태학적 포식‑피식 모델로 재구성한 뒤, 인공지능 최적화 기법을 계층적으로 적용한 점이 가장 혁신적이다. 기본 방정식은 시간 지연을 포함한 일반화된 Lotka‑Volterra(GLV) 형태로, 종양 세포(x)와 바이러스 감염 세포(y)의 성장·소멸률(a, c), 상호작용 계수(b, d), 포화 용량(Kx, Ky), 그리고 감쇠(damping) 파라미터를 포함한다. 지연(delay) 항은 바이러스 감염 후 종양 세포 사멸이 나타나는 시차를 반영해 실제 실험에서 관찰되는 진동 패턴을 재현한다.

파라미터 추정 단계는 세 단계로 구성된다. 첫 번째는 DEAP 라이브러리를 이용한 유전 알고리즘(GA)으로 전역 탐색을 수행해 대략적인 최적값을 찾는다. 두 번째는 Scipy의 차등 진화(DE)로 파라미터 범위를 좁히며 미세 조정을 진행한다. 마지막으로 Stable‑Baselines3의 Proximal Policy Optimization(PPO) 기반 강화학습(RL)을 적용해 연속적인 4차원 행동 공간(감쇠 x, 감쇠 y, 성장 모드 x, 성장 모드 y)을 동적으로 조정한다. 보상 함수는 예측값과 실험값 간의 MSE를 최소화하도록 설계돼, 모델이 실시간 데이터 흐름에 맞춰 파라미터를 스스로 최적화한다는 점에서 적응형 치료 설계에 적합하다.

데이터는 Kiyokawa 등(2021)의 ICO‑VIR17·anti‑PD‑1 복합 치료 실험에서 얻은 세포 생존도와 성장 억제 곡선, 그리고 Nanostring 면역 패널 유전자 발현 프로파일을 사용했다. 전처리는 최소‑최대 정규화로 수행했으며, 이후 Random Forest 기반 특성 중요도 분석을 통해 TNF, NF‑κB, CD81, TRAF2, IL‑18, BID 등 6개 유전자를 핵심 바이오마커로 도출했다. Gene Set Enrichment 분석은 이들 유전자가 염증 경로와 ECM 재구성에 관여함을 확인했으며, 광역학 치료(PDT)와 OVT·면역 체크포인트 억제제 조합이 유사한 면역 활성화를 유도한다는 흥미로운 생물학적 통찰을 제공한다.

모델 성능 평가는 MSE < 0.02, R² > 0.82라는 높은 정확도를 기록했으며, 이는 기존 ODE·RDE 기반 OVT 모델(R²≈0.43)보다 현저히 우수하다. 그러나 모델은 실험 조건(세포주, 바이러스 용량, 투여 일정 등)에 대한 명시적 파라미터를 포함하지 않아, 외삽 시 일반화 가능성에 제한이 있다. 또한 시간 지연을 고정값으로 설정했기 때문에, 환자별 면역 반응 속도 차이를 반영하려면 추가적인 동적 지연 추정이 필요하다. 전반적으로 이 연구는 설명 가능한 AI와 생태학적 수학 모델을 결합해 OVT 동역학을 정량화하고, 치료 최적화와 바이오마커 발굴에 새로운 길을 제시한다.