포논 정밀조정으로 향상된 머신러닝 인터액티브 포텐셜

초록

본 논문은 머신러닝 기반 인터액티브 포텐셜(MLIP)의 곡률(2차 미분) 오류를 직접 최소화하는 Phonon Fine‑tuning(PFT) 기법을 제안한다. DFT로부터 얻은 힘 상수 행렬을 목표로 Hessian‑vector product를 이용해 대규모 초셀에서도 효율적으로 학습한다. 공동 학습(co‑training)으로 기존 데이터 손실을 방지하면서, MDR Phonon 벤치마크에서 기존 Nequix MP 모델 대비 평균 55% 향상된 포논 열역학 특성을 달성하고, 3차 미분이 필요한 열전도도 예측에서도 최고 수준의 정확도를 기록한다.

상세 분석

PFT는 기존 MLIP이 에너지·힘·스트레스만을 최소화하는 전통적인 EFS 손실에 2차 힘 상수(히시안) 손실을 추가한 4항 손실 함수를 도입한다. 핵심 아이디어는 DFT‑계산된 포논 힘 상수 행렬과 MLIP이 예측한 에너지 히시안을 직접 매칭함으로써 PES(잠재 에너지 표면)의 곡률을 정확히 재현하는 것이다. 초셀 규모가 수백~수천 원자에 달하면 전체 3N×3N 히시안을 저장·연산하는 비용이 O(N²)로 급증한다. 이를 해결하기 위해 PFT는 각 배치에서 무작위로 하나의 원자와 하나의 좌표 방향을 선택해 해당 히시안 열(column)만을 추출한다. 이 열은 선택 벡터 v와의 Hessian‑vector product(∇²E·v) 연산으로 한 번에 얻을 수 있어 연산 복잡도가 O(N)으로 감소한다. 자동 미분 프레임워크에서 역전파와 정방향 Jacobian‑vector product을 결합한 “triple‑backward” 절차를 사용해 GPU 메모리 한계를 극복한다.

또한, 포논 데이터는 평형 구조에서만 얻어지기 때문에 비평형 구성을 포함한 기존 MP‑pretrain 데이터와의 분포 차이가 크다. 이로 인해 단순히 포논 데이터만으로 파인튜닝하면 기존 데이터에 대한 성능이 급격히 저하되는 catastrophic forgetting 문제가 발생한다. 논문에서는 간단한 co‑training 스킴을 제안한다. PFT 스텝과 기존 MP 데이터(EFS) 스텝을 K:1 비율로 교대로 수행함으로써 원래의 에너지·힘·스트레스 정확도를 거의 유지하면서 히시안 오류만을 효과적으로 감소시킨다. 실험 결과, co‑training 없이 파인튜닝할 경우 MP‑validation 에너지 오차가 크게 상승하지만, K=5 정도의 비율이면 오차 상승이 1% 이하로 억제된다.

성능 평가에서는 MDR Phonon 벤치마크(PBE 기반)와 Matbench Discovery 열전도도·안정성 테스트를 사용했다. 히시안 오류와 열역학 특성(최대 포논 주파수, 진동 엔트로피, Helmholtz 자유에너지, 열용량) 사이에 강한 상관관계가 있음을 보여주며, 히시안 오류를 직접 최소화하면 이러한 특성들의 MAE가 평균 55% 감소한다. 특히, 3차 미분이 필요한 열전도도 예측에서 κ_SRME가 0.446→0.306으로 개선돼 기존 MP‑trained 모델들을 앞선다. 또한, OMat24 데이터셋으로 사전 학습된 더 큰 베이스 모델에도 동일한 PFT 절차를 적용했을 때 일관된 향상이 관찰돼 방법의 일반성이 입증된다.

이 논문은 (1) 히시안 직접 정합을 통한 PES 곡률 학습, (2) Hessian‑vector product 기반의 선형 스케일링, (3) 간단하지만 효과적인 co‑training 전략이라는 세 가지 기술적 기여를 제시한다. 이러한 접근은 기존 MLIP이 에너지·힘·스트레스에만 초점을 맞추어 발생한 곡률 편향을 근본적으로 해소하고, 포논 기반 물성 예측을 고신뢰도로 확장하는 데 중요한 발판이 된다.