수치 대수기하학을 이용한 모델 선택 및 생명과학 적용

초록

본 논문은 다항식 형태의 생물학·의학 모델을 대상으로, 수치 대수기하학(NAG) 기반의 전역 최적화 프레임워크를 제시한다. 확률 1 보장인 동차 연속법을 이용해 목적함수의 모든 임계점을 계산하고, 전역 최소값을 추출함으로써 모델 검증·선택·파라미터 추정 문제를 정확히 해결한다. 세포 신호전달, 합성생물학 회로, 전염병 모델 등 실제 사례에 적용해 기존 로컬 최적화 기법 대비 신뢰성과 해석 가능성을 높였다.

상세 분석

이 연구는 다항식 모델, 특히 질량작용 법칙에 기반한 화학반응망의 정상상태 방정식을 다루며, 전통적인 로컬 최적화가 갖는 지역 최소점에 머무르는 한계를 극복하기 위해 수치 대수기하학(Numerical Algebraic Geometry, NAG)을 도입한다. 핵심 알고리즘은 확률 1 보장을 갖는 동차 연속법(polynomial homotopy continuation)으로, 복소수 해 공간 전체를 탐색해 모든 고립된 해와 양의 차원 성분의 증인점(witness points)을 찾아낸다. 이를 통해 모델 다양체(V_M)와 데이터 다양체(V_D) 사이의 최소 거리 문제를 라그랑주 승수 방정식 형태로 전환하고, 해당 방정식 체계를 NAG 소프트웨어(Bertini, PHCpack 등)로 풀어 전역 최적해를 얻는다.

논문은 세 가지 핵심 문제를 명확히 정의한다. 첫째, 모델 검증(Model Validation)에서는 최소 거리 d²가 χ² 분포의 α-백분위수 이하인지 판단해 모델의 적합성을 검정한다. 둘째, 모델 선택(Model Selection)에서는 여러 후보 모델에 대해 동일한 d² 값을 계산하고, 필요 시 복잡도 페널티(AIC, BIC 등)를 적용해 최적 모델을 선정한다. 셋째, 파라미터 추정(Parameter Estimation)에서는 최적 해 (a*, x*, y*)를 직접 구해 최대우도 추정값을 제공한다.

특히, V_M과 V_D가 교차하지 않을 경우(즉, 모델이 데이터와 정확히 일치하지 않을 때) 라그랑주 승수 방정식을 풀어 전역 최소 거리를 구한다. 교차가 존재하지만 양의 차원 성분을 가질 경우, 증인점과 실점 검증 절차를 통해 실해 존재 여부를 판단한다. 또한, 비음수 제약조건이나 숨겨진 변수의 존재 등 실제 생물학적 상황에 맞는 추가 제약을 라그랑주-카루시-쿤-터(Karush‑Kuhn‑Tucker) 조건으로 확장한다.

알고리즘 복잡도 측면에서, 전통적인 그레버베이스(Gröbner basis) 기반 기법은 차원·변수 수가 증가하면 급격히 연산량이 폭증하지만, NAG는 다변량 다항식 시스템에 대해 확률 1 보장 하에 선형적으로 진행되며, 병렬화가 용이해 실용적인 규모에서도 적용 가능하다. 실험에서는 세포 사멸 신호전달 회로, 합성 바이오 회로, HIV 진행 모델, 단백질 변형 네트워크 등 네 개의 사례를 분석했으며, 각 사례에서 전역 최적해를 성공적으로 찾고, 기존 로컬 방법이 놓친 다중 최소점들을 식별했다.

결과적으로, NAG 기반 프레임워크는 모델 검증·선택·파라미터 추정의 전 과정을 전역 최적화 관점에서 일관되게 처리할 수 있게 하며, 특히 데이터가 부분적이거나 잡음이 존재하는 상황에서도 통계적 유의성을 유지한다. 다만, 양의 차원 해 집합이 복잡한 경우 실해 탐색이 여전히 어려우며, 고차원 문제에서는 메모리와 연산시간이 증가하는 한계가 존재한다. 향후 연구에서는 실해 추적 알고리즘의 효율화와 비선형 제약조건을 포함한 확장 모델링이 필요하다.