대분자 전이 상태 생성의 새로운 패러다임 FragmentFlow

초록

FragmentFlow는 반응 핵심 원자만을 대상으로 흐름 매칭 모델을 학습하고, 나머지 치환기를 재결합하는 분할‑정복 전략으로 대규모 분자의 전이 상태(TS)를 효율적으로 생성한다. 핵심만 모델링함으로써 크기‑유발 분포 이동을 완화하고, 33개의 무거운 원자를 가진 데이터셋에서 90% 이상의 성공률과 기존 초기화 방식 대비 30% 적은 최적화 단계를 달성했다.

상세 분석

본 논문은 전이 상태(TS) 생성이 고전적인 NEB·스트링·그로잉 스트링 등은 DFT와 결합될 경우 계산 비용이 급증해 고처리량 스크리닝에 부적합하다는 점을 지적한다. 최근 확산·플로우 매칭(FM) 기반 생성 모델이 소분자에 대해 성공을 거두었지만, 분자 크기가 증가하면 훈련 데이터와 테스트 데이터 사이에 심각한 분포 이동(distribution shift)이 발생한다. 이는 훈련 시 사용된 TS 데이터가 보통 1015개의 무거운 원자에 한정돼 있어, 3033개의 무거운 원자를 갖는 실제 응용에서는 모델이 일반화되지 못한다는 문제이다.

FragmentFlow는 이러한 문제를 “핵심‑치환기” 분할 전략으로 해결한다. 반응에서 실제 화학적 변화를 일으키는 핵심 원자 집합(reactive core)을 자동으로 식별하고, 이 핵심만을 대상으로 FM 모델(ReactOT)을 학습한다. 핵심은 일반적으로 5~10개의 원자에 불과해 훈련 시 데이터 분포와 거의 동일하게 유지되므로, 모델이 크기‑유발 분포 이동에 노출되지 않는다. 핵심을 생성한 뒤에는 IDPP 보간을 이용해 10⁴개의 후보 전체 구조를 만든 뒤, 핵심 RMSD가 최소인 후보를 선택하고 Kabsch 정렬을 통해 핵심을 교체한다. 최종적으로 Sella TS 옵티마이저를 적용해 물리적으로 일관된 전체 TS를 얻는다.

핵심 모델링 오류와 치환기 부착 오류를 KL 발산으로 분해한 이론적 분석(식 1·2)은 핵심 오류가 전체 오류를 지배한다는 가정을 정량화한다. 또한, 부분 ReactOT(Partial ReactOT) 학습을 위해 원본 Transition1x 데이터에 핵심 마스킹을 적용한 데이터 증강을 수행했으며, 이는 모델이 결합 결함이 있는 구조에서도 TS를 예측하도록 돕는다.

실험에서는 기존 TS 데이터셋이 10~15개의 무거운 원자에 머무는 반면, 저자들이 새로 구축한 LargeT1x(131개의 반응, 최대 33개의 무거운 원자)에서 FragmentFlow를 평가했다. 성공률은 “1 kcal mol⁻¹ 이내 RMSD” 기준으로 90%에 달했으며, 전통적인 IDPP 초기화 대비 Sella 최적화 단계가 평균 30% 감소했다. 이는 128‑CPU 환경에서 최대 28%의 실제 시간 절감으로 이어졌다.

한계점으로는 치환기 재배치 과정이 단순히 IDPP 보간에 의존한다는 점이며, 복잡한 비공유 결합이나 금속 촉매와 같은 특수 환경에서는 추가적인 정제 단계가 필요할 수 있다. 또한, 핵심 식별이 자동화된 워크플로우에 크게 의존하므로, 핵심 정의가 모호한 반응(예: 전자 이동이 광범위한 경우)에서는 성능 저하가 예상된다.

전반적으로 FragmentFlow는 “핵심‑치환기” 분할과 FM 기반 생성 모델을 결합해 대규모 분자 TS 생성의 비용‑정확도 트레이드오프를 크게 개선했으며, 고처리량 반응 탐색 및 촉매 설계에 실용적인 도구로 활용될 가능성을 제시한다.