Humlicek W4 알고리즘 실축 근처 정확도 손실 해결을 위한 간단한 개정

초록

본 논문은 복소 확률 함수(페데예바 함수) 계산에 널리 사용되는 Humlicek의 W4 알고리즘이 실축 근처에서 발생하는 정확도 저하 문제를 간단한 재구성을 통해 해결함을 제시한다. 제안된 개정은 실수부 x 전체와 허수부 y가 10⁻³⁰에서 10³⁰ 사이의 넓은 구간을 포괄하면서도 원래 알고리즘이 주장한 정확도를 유지한다.

상세 분석

Humlicek의 W4 알고리즘은 복소 변수 z = x + i y에 대한 페데예바 함수 w(z)를 빠르게 계산하기 위해 네 개의 근사식 영역을 조합하는 방식으로 설계되었다. 기존 구현에서는 y가 매우 작아 실축에 근접할 때, 특히 x가 큰 절댓값을 가질 경우 근사식 전환 기준이 부정확해져 상대 오차가 10⁻⁶ 수준을 넘어가는 현상이 보고되었다. 논문은 이 현상의 근본 원인을 두 가지로 분석한다. 첫째, 실축 근처에서 exp(−z²)와 erfc(−i z) 형태의 항이 상쇄되면서 부동소수점 소실이 발생한다. 둘째, 기존 영역 구분 기준이 y에 대한 로그 스케일을 충분히 고려하지 않아 경계 전환 시 급격한 계수 변화가 일어난다. 이를 해결하기 위해 저자는 다음과 같은 두 가지 개정을 제안한다. 1) y가 일정 임계값 이하(≈10⁻⁸)일 때는 기존 4구역 근사 대신, 테일러 전개 기반의 고정 소수점 보정식을 적용한다. 이 보정식은 w(z) ≈ i √π / (1 − 2 i x y) 형태로, 실축에 거의 평행한 경로에서의 수치적 안정성을 보장한다. 2) 영역 전환 기준을 y의 절대값이 아닌 로그(|y|)에 기반한 연속 함수로 재정의하여, 전환 구간이 부드럽게 이어지도록 한다. 이러한 조치는 부동소수점 언더플로와 오버플로를 최소화하고, 근사식 간의 불연속성을 제거한다. 실험 결과는 x ∈