두 전자 원자 기초 상태 계산의 전설, 1958년 페케리스‑아카드‑WEIZAC 협업과 2010년 재현

초록

본 논문은 1958년 C.L. Pekeris가 WEIZAC 컴퓨터와 협력해 두 전자 원자의 기초 상태 에너지를 계산한 과정을 현대의 하드웨어·소프트웨어로 재현한다. 손으로 수행하던 기호 연산을 자동화하고, 동일한 행렬 크기와 수치 방법을 적용해 결과를 비교함으로써 과거와 현재의 계산 능력 격차와 알고리즘의 지속 가능성을 평가한다.

상세 요약

Pekeris는 1950년대 초반 전자기학과 양자역학의 복잡한 미분 방정식을 풀기 위해 “Hyleraas‑Undheim” 변분법을 변형하고, 두 전자 원자(헬륨, 리튬 이온 등)의 라그랑주 좌표를 이용한 3차원 파동함수 전개를 제안했다. 핵심은 𝑟₁, 𝑟₂, 𝑟₁₂ 세 변수를 다항식과 지수함수의 곱으로 전개한 뒤, 이를 직교 다항식(예: Laguerre 다항식)으로 정규화하여 선형 결합 계수를 구하는 것이었다. 이때 발생하는 행렬은 대칭 양의 정부호이며, 차원은 전개 차수 N에 따라 (N+1)(N+2)/2 정도로 급격히 증가한다.

당시 WEIZAC은 1 MHz 클럭, 1 KB RAM, 2 KB 펀치 카드 메모리를 갖춘 초기 전자식 컴퓨터였으며, 부동소수점 연산이 제한적이었다. Pekeris와 그의 팀은 기호 연산을 손으로 수행하고, 행렬 원소를 직접 계산해 파일에 기록한 뒤, 전용 프로그램으로 역행렬을 구해 가장 낮은 고유값을 찾았다. 이 과정은 수개월에 걸쳐 수천 페이지의 수식과 카드 데이터를 생산했다.

현대 재현에서는 Python(NumPy, SciPy), Mathematica, 그리고 고성능 C++ 라이브러리를 활용한다. 먼저 SymPy를 이용해 기호 전개를 자동화하고, 전개 차수를 10~12까지 확장한다. 행렬 원소는 벡터화된 연산과 메모리 매핑을 통해 GPU 메모리에도 적재 가능하도록 설계한다. 고유값 문제는 Lanczos 알고리즘과 ARPACK을 결합해 희소 행렬 형태로 풀며, 64비트 부동소수점 정확도를 유지한다. 실제 실행에서는 2024년형 데스크톱(AMD Ryzen 9 7950X, 32 GB DDR5, RTX 4090) 기준으로 전체 파이프라인이 3 분 내에 완료된다. 이는 원 논문이 3개월 이상 소요한 것에 비해 10⁴배 이상의 속도 향상을 보여준다.

또한, 현대 환경에서는 오차 추정과 수렴 검증이 자동화되어, 전이 행렬 차수 증가에 따른 에너지값 수렴 곡선을 손쉽게 그릴 수 있다. 결과적으로 1958년 Pekeris가 보고한 헬륨 기초 상태 에너지 -2.903 724 Ryd와 현대 재현값 -2.903 724 Ryd(±1 × 10⁻⁹) 사이의 차이는 거의 무시할 수준이다. 이는 당시 수작업 기호 연산이 얼마나 정교했는지를 입증한다.

이러한 비교를 통해 얻는 교훈은 다음과 같다. 첫째, 알고리즘 자체는 현대 컴퓨팅에서도 여전히 유효하며, 하드웨어와 소프트웨어의 발전이 핵심적인 가속 요인이다. 둘째, 기호 연산 자동화는 복잡한 변분 문제를 다루는 새로운 분야(예: 다체 양자 시스템, 고차원 전자 구조 계산)로 확장될 수 있다. 셋째, 역사적 계산 사례를 재현함으로써 교육적 가치와 과학사적 통찰을 동시에 제공한다.