신경망 양자 상태를 위한 결정론적 최적화 프레임워크

초록

본 논문은 전자 구조 계산에서 신경망 양자 상태(NQS)의 확률적 최적화를 대체할 수 있는 결정론적 방법을 제시한다. 적응형 구성 서브스페이스와 2차 섭동 이론(PT2) 보정을 결합한 백플로우 신경망 안즈ätze를 사용해, Monte‑Carlo 샘플링 노이즈를 없애고 CPU‑GPU 하이브리드 구현을 통해 서브스페이스 크기에 대한 서브선형 스케일링을 달성한다. H₂O, N₂의 결합 해리와 강하게 상관된 Cr₂ 분자에 대한 벤치마크에서 화학 정확도와 안정성을 검증하였다.

상세 분석

이 연구는 전통적인 변분 몬테카를로(VMC) 방식이 갖는 샘플링 분산과 느린 혼합 문제를 근본적으로 해결하고자 한다. 핵심 아이디어는 NQS를 확률적 생성기가 아니라 결정론적 진폭 생성기로 취급하고, 현재 파라미터 θ에 의해 정의된 파동함수를 제한된 서브스페이스 Vₖ에 투사한 뒤, 그 서브스페이스와 직접 연결된 구성 Cₖ를 포함하는 목표 집합 Tₖ = Vₖ∪Pₖ(섭동 집합)를 구성한다. 이렇게 하면 에너지 기대값을 MCMC 대신 정확한 합으로 계산할 수 있어 샘플링 노이즈가 사라진다.

논문은 세 가지 에너지 목적함수를 정의한다.

1. **비대칭 모드(Asymmetric)**는 정규화 영역을 Vₖ로 제한하고, 해밀토니안 기대값을 전체 Tₖ에 대해 계산한다. 이 경우 그래디언트는 근사적이며, Pₖ에 대한 파라미터 의존성을 무시하기 때문에 보존되지 않는다.
2. **프록시 모드(Proxy)**는 정규화 영역을 전체 Tₖ로 확대하고, Pₖ‑Pₖ 블록을 대각선으로만 근사한 희소 해밀토니안 ˜Hₖ를 사용한다. 이 방식은 정확한 라일리 추정량을 제공하고, Pₖ에 대한 피드백을 통해 강한 상관 시스템에서도 안정적인 최적화를 가능하게 한다.
3. **변분 모드(Variational)**는 전통적인 Vₖ‑프로젝션 해밀토니안에만 의존한다. 여기서는 Pₖ의 기여를 무시하므로, 최적화 후에 2차 섭동 이론(EP–Nesbet PT2) 보정을 적용해 동적 상관을 회복한다.

특히, 변분 모드와 PT2 보정을 결합한 “Variational+PT2” 프로토콜은 Cr₂와 같은 다중 전자, 다중 결합 시스템에서 높은 정확도를 보였다. PT2 식은 내부 잔차와 외부 섭동 집합 모두를 고려하도록 설계돼, NQS가 정확한 고유상태가 아니더라도 에너지 보정을 정밀하게 수행한다.

신경망 구조는 백플로우 안즈ätze를 채택한다. 기본 레퍼런스 궤도 Φ₀를 RHF에서 얻고, 신경망 ΔΦ_θ(x) 가 구성 x에 따라 궤도를 변형한다. 이렇게 하면 전자 반대칭성을 유지하면서도, 구성 의존적인 궤도 변형을 통해 복잡한 부호 구조를 학습할 수 있다. 초기 가중치를 0에 가깝게 설정하면 초기 파동함수가 Hartree‑Fock 상태와 일치해, 물리적으로 의미 있는 시작점을 제공한다.

계산 구현 측면에서 저자들은 CPU‑GPU 하이브리드 아키텍처를 설계했다. 비트 연산 기반의 희소 해밀토니안 그래프 생성은 CPU에서 수행하고, 텐서 연산과 자동 미분은 GPU에서 처리한다. 이렇게 하면 목표 집합 Tₖ의 크기가 수백만을 넘어도 메모리와 연산량이 서브선형으로 증가한다는 실험적 증거를 제시한다.

벤치마크 결과는 다음과 같다. H₂O와 N₂의 결합 해리 곡선에서 cc‑pVDZ 기준으로 화학 정확도(1 kcal/mol 이하)를 달성했으며, 서브스페이스 크기가 전체 FCI 공간의 0.1 % 수준에 불과했다. Cr₂에 대해서는 기존 sCI‑PT2 및 DMRG 결과와 비교해 차이가 0.5 mHartree 이하이며, 특히 강한 다중결합 영역에서 안정적인 수렴을 보였다. 이는 결정론적 프레임워크가 큰 Hilbert 공간에서도 효율적으로 중요한 구성들을 탐색하고, NQS의 표현력을 충분히 활용한다는 것을 의미한다.

전반적으로 이 논문은 신경망 기반 전자 구조 방법을 확률적 한계에서 벗어나, 전통적인 선택적 CI와 유사한 서브스페이스 적응 전략을 결합함으로써 새로운 패러다임을 제시한다. 향후 연구에서는 더 복잡한 다중 기준(멀티‑리퍼런스) 백플로우, 실시간 동적 서브스페이스 업데이트, 그리고 양자 컴퓨팅 하드웨어와의 연계 가능성 등을 탐색할 여지가 있다.