머신러닝으로 양자 다체 시스템을 정밀하게 해부한다

초록

본 논문은 Bose‑Hubbard 모델에 대한 딥러닝 아키텍처인 HubbardNet을 개선하여, 최적화 기법과 물리 기반 출력 활성화를 도입함으로써 기저 상태 에너지 오차를 수십 배 감소시키고 파동함수 충실도를 99 % 이상으로 끌어올렸다. 또한 1차원·2차원 전역에서 일반화된 역참여비와 다중프랙탈 차원을 분석해, 초유체, 몰트 절연, 양자 혼돈 등 네 개의 상을 아우르는 전이 구간에서도 물리적 특성을 정확히 재현함을 보였다.

상세 분석

본 연구는 기존 HubbardNet이 제시한 네트워크 구조(입력층: 각 격자점 점유수 n_i, 상호작용 강도 U, 입자 수 N; 은닉층 4개, 400 neurons, tanh) 위에 두 가지 핵심 개선을 적용하였다. 첫째, 옵티마이저를 단순 SGD에서 Adam(β₁=0.9, β₂=0.999)으로 교체하고, 학습률을 최대 1×10⁻²에서 5×10⁻⁶ 수준으로 낮춘 뒤 코사인‑어닐링을 1 000 epoch마다 재설정함으로써 손실 함수의 진동을 억제하고 수렴 속도를 100배 이상 가속했다. 둘째, 출력 활성화 함수를 물리적 제약에 맞게 설계하였다. 기저 상태는 모든 계수가 양수이므로 exp(u) 함수를 사용해 작은 진폭도 정확히 표현하도록 했으며, 여기서 발생하는 언더플로우 문제를 로그‑스케일 정규화로 해결했다. 여기서 도출된 파동함수 ψ_NN(f)는 정규화된 후 직접적으로 Fock 기저 전개 계수와 비교 가능해졌다.

학습 데이터는 U∈