Kadanoff Baym 방정식 해법의 새로운 지평: 전역 반복 솔버의 안정성과 복잡성

초록

Kadanoff-Baym 방정식의 기존 시간 단계별 해법 대신, 전체 시간 영역에서 작동하는 전역 반복 솔버의 가능성을 탐구한 연구입니다. 다양한 고정점 반복법, 자코비안-프리 방법, 자동 미분을 활용한 뉴턴-크릴로프 방법을 Falicov-Kimball 및 Hubbard 모델에 적용하여 계산 복잡성과 수렴 안정성을 분석했습니다. 표준 순방향 고정점 반복은 불안정하나 다른 방법들은 긴 전파 시간에서도 안정적으로 수렴하며, 필요한 반복 횟수는 시간 단계 수에 거의 선형적으로 증가하는 특징을 보였습니다.

상세 분석

본 논문은 강상관 계의 비평형 동역학을 설명하는 핵심 도구인 Kadanoff-Baym 방정식(KBE)을 해결하는 새로운 패러다임인 ‘전역 반복(global-in-time) 솔버’의 타당성을 체계적으로 조사했습니다. 기존의 시간 단계별(time-stepping) 방법은 역사 적분 항으로 인해 메모리와 계산 비용이 각각 O(N_t^2), O(N_t^3)으로 증가하는 근본적인 한계가 있습니다. 저자들은 이를 극복하기 위해 방정식을 전체 시간 영역에서의 비선형 연립방정식으로 재구성하고, 이를 반복적으로 풀어내는 다양한 알고리즘의 성능을 평가했습니다.

기술적 핵심은 KBE의 이산화입니다. 실시간과 허수시간을 등간격으로 나누고, 사다리꼴 법칙으로 적분을 근사하면 역사 적분 항이 행렬-행렬 곱셈 형태로 나타납니다. 이는 병렬 선형대수 라이브러리나 HODLR, QTT 같은 압축 행렬 표현과의 호환성을 열어주는 중요한 변환입니다. 본 연구에서는 이 이산화된 비선형 시스템을 풀기 위해 (1) Lagged(지연형), Unlagged(비지연형) 고정점 반복, (2) Anderson 가속화를 적용한 자코비안-프리 방법, (3) 자동 미분으로 정확한 야코비안을 구성한 뉴턴-크릴로프 방법 등 여러 반복법을 비교했습니다.

주요 발견점은 다음과 같습니다. 첫째, 가장 직관적인 ‘Lagged’ 고정점 반복(이전 반복의 자기에너지를 사용)은 전파 시간이 길어질수록 불안정해지는 반면, ‘Unlagged’ 방식이나 더 정교한 뉴턴-크릴로프 방법은 안정적인 수렴을 보였습니다. 둘째, 안정적인 모든 방법에서 공통적으로 관찰된 것은, 시간 단계 크기(Δt)를 고정했을 때 주어진 정확도에 도달하기 위한 반복 횟수가 시간 단계 수(N_t)에 대해 거의 선형적으로 증가한다는 점입니다. 이는 잔차 오차에 전파하는 ‘전면(front)‘이 형성되기 때문이며, 이 전면의 속도는 사용된 방법에 따라 달랐습니다. 이 선형 스케일링은 전역 반복법의 총 계산 비용에 중요한 함의를 가집니다. 즉, 반복당 비용이 O(N_t^2)인 밀집 행렬을 사용할 경우, 전체 비용은 O(N_t^3)으로 기존 시간 단계법과 동일한 복잡도를 가질 수 있습니다. 따라서 전역 반복법이 경쟁력을 갖기 위해서는 반복당 비용을 압축 기법 등으로 획기적으로 낮추거나, 반복 횟수 자체의 스케일링을 개선하는 전제조건이 필요함을 시사합니다.