다중 양자화학 레벨을 학습하는 올인원 기반 모델

초록

본 논문은 양자화학(QC) 레벨을 하나의 신경망에 통합하는 All‑in‑One (AIO) ANI 아키텍처를 제안한다. 레벨 정보를 원‑핫 인코딩으로 입력에 포함시켜, 동일 모델이 반응성, DFT, CCSD(T)/CBS 등 다양한 수준의 에너지와 힘을 동시에 예측하도록 설계하였다. AIO‑ANI‑UIP 모델은 DFT와 CC 레벨에서 각각 약 1.2 kcal/mol의 검증 오차를 보이며, GMTKN55 벤치마크에서 GFN2‑xTB 및 B3LYP‑D4와 비슷한 정확도와 훨씬 빠른 속도를 달성한다. 또한 Δ‑학습을 결합한 Δ‑AIO‑ANI 모델은 정확도를 두 배 이상 향상시킨다. 전통적인 전이 학습과 비교했을 때 학습 단계가 단순하고, 다중 레벨 확장이 용이함을 입증한다.

상세 분석

AIO 모델의 핵심 아이디어는 멀티모달 학습으로, 기존 ANI‑type 원자 환경 벡터(AEV)에 양자화학 레벨을 나타내는 원‑핫 벡터를 추가하는 것이다. 이렇게 하면 네트워크는 각 원자에 대해 “어떤 레벨의 에너지를 예측해야 하는가”라는 정보를 직접 받게 되며, 별도의 모델을 훈련하거나 파라미터를 고정·해제하는 복잡한 전이 학습 절차가 필요 없어진다. 저자들은 ωB97X/def2‑TZVPP DFT와 CCSD(T)*/CBS 두 레벨을 포함한 약 5 백만 개의 구조(에너지·힘)와 0.5 백만 개의 CC 레벨 에너지 데이터를 사용해 AIO‑ANI‑UIP을 훈련하였다. 데이터 전처리 단계에서 각 레벨별 자기 원자 에너지(SAE)를 빼고, 추론 시 다시 더해주는 방식은 기존 ANI 모델과 일관성을 유지하면서 레벨 간 에너지 스케일 차이를 보정한다.

성능 평가에서는 내부 검증 셋에서 레벨별 평균 절대 오차가 1.2 kcal/mol 수준으로 매우 우수했으며, 외부 GMTKN55(CHNO, 폐쇄‑쉘 중성 분자) 벤치마크에서는 WTMAD‑2가 CC 레벨에서 9.87 kcal/mol, DFT 레벨에서 10.5 kcal/mol를 기록, GFN2‑xTB와 B3LYP‑D4/6‑31G*와 비슷하거나 약간 앞섰다. 특히 추론 속도는 전통적인 양자화학 계산에 비해 수천 배 빠르며, 이는 실시간 분자 동역학 시뮬레이션에 직접 적용할 수 있음을 의미한다.

전이 학습과의 비교 실험에서는 AIO‑ANI가 사전 학습(프리트레인) + 미세 조정 단계가 필요 없는 단일 단계 학습으로 1,000 epoch 만에 수렴했으며, 전이 학습은 최소 3,750 epoch(프리트레인 + 파인‑튜닝) 필요했다. 결과적으로 AIO‑ANI‑UIP은 약 7 % 정도 더 낮은 WTMAD‑2를 달성했고, 전이 학습보다 일반화 성능이 더 일관적이었다.

Δ‑학습을 적용한 Δ‑AIO‑ANI는 AIO‑ANI‑UIP이 예측한 DFT와 CC 에너지 차이를 보정함으로써, 최종 WTMAD‑2를 4.69 kcal/mol로 절반 수준으로 낮췄다. 이는 “베이스라인 + ML 보정” 전략이 단순히 전체 에너지를 직접 예측하는 것보다 더 안정적이고 정확함을 보여준다.

다중 레벨을 확대해 가면서 저자들은 검증 오류가 에폭이 증가함에 따라 불규칙하게 변동한다는 현상을 발견했으며, 이는 과적합 위험을 시사한다. 이를 완화하기 위해 S30L 비공유 검증 셋을 도입해 비공유 상호작용 에너지 오류를 모니터링했으며, 이 과정이 일반화 오류를 안정화시키는 데 효과적이었다.

전체적으로 AIO‑ANI는 (1) 레벨 수에 제한이 없고, (2) 학습 파이프라인이 단순하며, (3) 기존 ANI 기반 인프라와 호환돼 데이터 생성·모델 배포가 용이하다는 장점을 제공한다. 향후 더 많은 원소와 레벨을 포함시키면, 범용 양자화학 기반 모델(Foundational Model)로서 클라우드·플러그인 형태의 서비스 제공이 가능해질 전망이다.