엔드투엔드 미분가능 학습으로 구현한 단일 교환‑상관 함수와 DFT·TDDFT 통합

초록

본 논문은 JAX 기반 양자화학 코드 IQC에 자동미분을 적용해, Kohn‑Sham DFT와 Tamm‑Dancoff 근사 LR‑TDDFT 양쪽에서 사용 가능한 단일 딥러닝 교환‑상관 에너지 함수를 엔드‑투‑엔드로 최적화한다. 헬륨 원자 스펙트럼을 목표로 자기상호작용 제거와 Lieb‑Oxford 상한 제약을 손실에 포함시켰으며, 학습된 함수는 기존 HF, SVWN, PBE, B3LYP 대비 흥분 에너지와 자기상호작용 오류에서 우수한 전이성을 보였다.

상세 분석

이 연구는 DFT와 LR‑TDDFT가 동일한 xc 함수에 의존한다는 근본적인 제약을 극복하고자, 에너지 함수 자체를 학습 대상에 포함시켜 그 도함(잠재력)과 2차 도함(응답 커널)이 자동으로 일관되게 생성되도록 설계하였다. 핵심 기술은 두 가지이다. 첫째, SCF 반복을 고정점 방정식으로 정의하고, 암시적 미분(implicit differentiation)으로 고정점 해에 대한 그래디언트를 계산함으로써 수천 번의 SCF 반복을 전개(unroll)하지 않고도 메모리 사용량을 상수 수준으로 유지한다. 둘째, Casida 방정식의 고유값 문제에 대해 특이값이 작은 경우를 정규화하는 기법(ΔPQ → ΔPQ / (ΔPQ²+ε))을 도입해 근접 축퇴 상태에서도 안정적인 역전파가 가능하도록 하였다.

함수 형태는 밀도 행렬 D의 고유값 스펙트럼을 입력으로 하는 공유 임베딩 MLP이며, 평균 풀링을 통해 가변 길이 입력을 고정 차원으로 압축한다. 이는 회전 불변성을 자연스럽게 만족하지만, 현재 구현에서는 엄격한 크기 확장성(size‑extensivity)을 보장하지 않아 향후 개선이 필요하다.

학습 손실은 세 부분으로 구성된다. (1) 목표 흥분 에너지와 계산된 흥분 에너지 간의 L2 차이, (2) 한 전자 시스템(He⁺)에서의 자기상호작용 오류(SIE)를 최소화하는 항, (3) Lieb‑Oxford 상한 위반 정도를 로그‑스케일로 억제하는 항이다. 가중치 c₁, c₂, c₃를 각각 10, 1, 10⁻⁴로 설정하고, Adam 옵티마이저와 1e‑4 학습률로 10번의 에포크만에 손실이 수렴한다.

실험 결과는 헬륨 원자의 첫 번째 싱글렛(S₁) 및 트리플렛(T₁) 흥분 에너지에서 기존 함수들(SVWN, PBE, B3LYP)과 거의 동일한 0.01 au 이하의 오차를 달성했으며, SIE와 Δ_LO에서도 B3LYP 수준 이하의 오류를 보였다. 더 나아가 학습된 IXC 함수를 고정된 cc‑pVDZ 기저에서 H₂, Li⁺, H₂O에 적용했을 때, 평균 절대 오차(MAE)가 B3LYP보다 우수하고 특히 SIE 감소 효과가 두드러졌다. 이는 단일 원자 데이터와 제한된 기저 집합만으로도 다원자 시스템에 일정 수준의 전이성을 확보할 수 있음을 시사한다.

전반적으로 이 논문은 자동미분 기반 양자화학 파이프라인을 완전하게 미분가능하게 만든 첫 사례 중 하나이며, 에너지‑잠재력‑응답 커널의 일관성을 보장하면서 딥러닝 xc 함수를 공동 최적화하는 프레임워크를 제시한다. 향후에는 다중 스핀, 비균일 전자밀도, 더 큰 기저 집합 및 실제 물질에 대한 확장, 그리고 정확한 크기 확장성을 갖춘 입력 표현(예: 밀도 행렬 자체)으로의 발전이 기대된다.