변분 적응 가우시안 분해: 확장 가능한 무적분 시간분할 해동 가우시안 동역학

초록

본 논문은 시간‑슬라이스 기법을 이용해 반고전적 전파를 실시간 경로 적분에 결합하고, 파동함수를 가우시안 파동팩킷(GWP)의 초소형 집합으로 분해하는 새로운 변분 프레임워크인 VAGD(Variational Adaptive Gaussian Decomposition)를 제안한다. 자동인코더‑디코더 신경망을 최적화 도구로 사용해 가우시안 파라미터를 직접 최적화함으로써 다차원 적분(즉, 사전 적분) 없이도 높은 충실도를 유지한다. VAGD‑TGA(시간‑분할 해동 가우시안 근사)와 결합하면 기존 TGA의 장기 전파 정확도 저하를 극복하고, 차원 수에 거의 의존하지 않는 스케일러블한 양자 동역학 시뮬레이션이 가능함을 보인다.

상세 분석

본 연구는 반고전적(semiclassical) 전파 방법 중 특히 해동 가우시안 근사(TGA)의 장기 정확도 저하 문제를 해결하고자 ‘시간‑슬라이스(time‑slicing)’라는 아이디어를 재해석한다. 전통적인 시간‑슬라이스는 파동함수를 일정 시간 간격마다 다수의 가우시안 파동팩킷으로 재분해하고, 각 가우시안을 독립적으로 전파하는 방식이다. 그러나 기존 구현은 다차원 적분을 필요로 하며, 복소 위상으로 인한 Monte‑Carlo 부호 문제(sign problem)와 가우시안 수의 지수적 증가라는 두 가지 심각한 병목을 안고 있다.

VAGD는 이러한 병목을 ‘변분 최적화’라는 새로운 관점으로 전환한다. 입력 파동함수 ψ를 N_in개의 가우시안 선형 결합으로 표현하고, 이를 N_out(≤K)개의 새로운 가우시안 집합 Ψ로 재구성한다. 목표는 입력‑출력 파동함수 간 겹침(overlap) F를 사전에 정의한 임계값 F_thresh에 가깝게 만들면서, 사용되는 가우시안 수 N_out을 최소화하는 것이다. 이를 위해 손실 함수 L = –log(F) + (1–F) 를 정의하고, 자동인코더‑디코더 신경망을 ‘수치 최적화 엔진’으로 활용한다. 인코더는 파동함수의 고차원 파라미터(위치·운동량·폭 행렬·위상)를 저차원 잠재공간으로 압축하고, 디코더는 이를 다시 가우시안 파라미터 집합으로 복원한다. 여기서 중요한 점은 네트워크가 사전 학습된 모델이 아니라, 매 시간‑슬라이스마다 현재 파동함수에 맞춰 새롭게 최적화된다는 점이다. 따라서 전통적인 과적합(overfitting)이나 훈련 데이터 구축 문제는 존재하지 않는다.

가우시안 폭 행렬 A는 복소 대칭 행렬이며, 특히 그 허수 부분 A_I는 양의 정부호여야 한다. 직접 A_I를 최적화하면 양의 정부호 조건을 위배할 위험이 있기 때문에, 저삼각 행렬 L을 최적화하고 A_I = L Lᵀ 형태로 재구성한다. 이는 수치적 안정성을 크게 향상시킨다. 또한 ‘워밍 스타트(warm‑start)’ 전략을 도입해 이전 슬라이스에서 얻은 최적 파라미터를 초기값으로 사용함으로써 학습 에폭(epoch) 수를 크게 줄인다. 파동함수의 위치와 스케일이 크게 변할 경우를 대비해, 재분해 전 파동함수를 평균 위치를 0으로 이동시키고, 분산을 초기 상태와 맞추는 정규화 과정을 거친 뒤 최적화를 수행한다. 최적화가 끝난 뒤에는 역변환을 적용해 물리적 좌표계로 복원한다.

실험에서는 1차원 모스(Morse) 포텐셜과 다차원 독립 모스 진동자를 대상으로 VAGD‑TGA를 검증한다. 1D 사례에서는 비조화도 χ가 커질수록 전통 TGA의 겹침이 급격히 감소하지만, VAGD‑TGA는 F_thresh = 0.9995를 유지하면서도 필요한 가우시안 수를 최소화한다. 다차원 테스트에서는 차원 수가 증가함에 따라 전통 TSTG(시간‑분할 해동 가우시안)에서 요구되는 가우시안 수가 지수적으로 늘어나는 반면, VAGD‑TGA는 K(최대 가우시안 수)를 적절히 설정하면 차원에 거의 독립적인 비용으로 정확한 동역학을 재현한다.

핵심 기여는 다음과 같다. 첫째, 가우시안 분해를 ‘무적분(quadrature‑free)’ 방식으로 변분 최적화 문제에 전환함으로써 고차원 적분의 부호 문제를 근본적으로 회피한다. 둘째, 자동인코더‑디코더를 최적화 도구로 활용해 파라미터 공간을 효율적으로 탐색하고, 최소 가우시안 수로 높은 충실도를 달성한다. 셋째, 워밍 스타트와 정규화 전처리 등 실용적인 수치 안정화 기법을 제시해 실제 대규모 시뮬레이션에 적용 가능하도록 만든다. 마지막으로, VAGD는 TGA에 국한되지 않고, 다른 반고전적 전파(예: 초기값 전파, 다중 레벨 방법)에도 일반화 가능하다는 점에서 향후 양자 동역학 시뮬레이션의 범용 플랫폼이 될 잠재력을 가진다.