효율적인 화학 반응 속도 탐색을 위한 최적수송 가우시안 프로세스 프레임워크

초록

본 논문은 물리적 표현, 통계 모델, 시스템 아키텍처를 공동 설계한 Optimal Transport Gaussian Process(OT‑GP) 체계를 제시한다. OT‑GP는 최적수송 거리 기반의 물리‑인식 메트릭을 이용해 잠재 에너지 표면을 압축하고, 목표 샘플링으로 전이 상태 탐색 비용을 크게 낮춘다. 강화학습 기반 최소‑모드 추적과 Nudged Elastic Band(NEB) 알고리즘을 통합하고, EON 소프트웨어를 고성능 서버‑클라이언트 구조로 재구성해 장시간 시뮬레이션을 지원한다. 대규모 베치마크와 베이지안 계층 모델 검증을 통해 기존 방법 대비 월등한 정확도와 속도를 입증한다.

상세 분석

OT‑GP의 핵심은 물리‑인식 최적수송 메트릭을 이용해 고차원 PES를 저차원 흐름으로 매핑함으로써, 샘플링 효율을 극대화한다는 점이다. 전통적인 가우시안 프로세스는 커널 행렬의 O(N³) 복잡도로 대규모 데이터에 취약했지만, 저자는 계층적 저차원 임베딩과 Farthest Point Sampling(FPS)을 결합해 행렬 차원을 동적으로 조절하고, Rank‑One 업데이트와 데이터 프루닝을 통해 실시간 학습을 가능하게 했다. 또한, 신뢰 반경(adaptive trust radius)을 도입해 예측 불확실성이 큰 영역에 집중적으로 전자구조 계산을 수행하도록 설계했으며, 이는 전이 상태 탐색 시 수천 배의 비용 절감으로 이어진다. 강화학습(RL) 에이전트는 최소‑모드 추적(MMF)과 NEB 두 가지 경로 탐색에 적용되었는데, 최종 상태가 알려지지 않은 경우 MMF를, 알려진 경우 NEB를 선택적으로 사용한다. 에이전트는 보상 함수를 반응 경로의 에너지 장벽과 경로 길이로 정의하고, 정책 네트워크는 기존 최적화 단계(회전·이동)와 결합해 수렴 속도를 크게 향상시켰다. EON 소프트웨어는 클라이언트‑서버 구조로 재구성돼 I/O 병목을 최소화하고, 하이브리드 CI‑NEB‑MMF 모듈을 통해 복합 반응 메커니즘을 자동으로 탐색한다. 베이지안 계층 모델을 이용한 검증에서는 모델 불확실성(예측 분산)과 전자구조 계산 오차를 동시에 추정해, 실험 데이터와의 일관성을 정량화했다. 최종 베치마크에서는 Lennard‑Jones 38‑클러스터, 에틸렌 옥사이드 이성질체 전이, 그리고 다이머 회전 문제에서 기존 H‑TST·DFT 기반 방법 대비 5‑10배 빠른 wall‑time과 0.1‑0.3 kcal/mol 수준의 에너지 오차를 달성했다. 이러한 결과는 대규모 반응 네트워크 구축과 고속 KMC 시뮬레이션에 실용적인 엔진을 제공한다는 점에서 학계·산업계 모두에 큰 파급 효과를 기대한다.