양자화 함수 재조건화로 샘플 정확도 회복

본 논문은 Monte Carlo 시뮬레이션에서 널리 사용되는 역변환(inversion) 샘플링이 부동소수점 연산의 제한으로 인해 정밀도 손실을 겪는 근본 원인을 분석하고, 이를 해결하기 위한 두 단계의 재조건화 기법을 제시한다. 1. **문제 정의와 배경** 역변환 샘플링은 난수 u∈U(0,1)를 목표분포 f의 누적분포함수 F의 역함수 Q(u)=F⁻¹(u)로 매핑한다. 이 과정은 (i) 난수 비트 생성, (ii) 비트를 부동소수점 u로 변환, (iii) u를 Q에 대입하는 세 단계로 나뉜다. 기존 연구는 (i)과 (iii)에서 발생하는 오류를 충분히 다루었으나, (ii)인 “균등 난수 생성” 단계가 부동소수점의 유한 정밀도(P=53) 때문에 양자화 함수의 꼬리 부분에서 큰 조건수 C(Q)→∞를 초래한다는 점을 간과했다. 2. **양자화 함수의 조건수 분석** 조건수 C(g)=|x·g′(x)/g(x)|는 입력 오차가 출력에 미치는 상대적 영향을 나타낸다. 지수분포 Q₁(u)=−log(1−u)/λ를 예로 들면, u→1에서 Q₁이 급격히 상승해 C(Q₁)≈|−u·log(1−u)|가 크게 증가한다. 이는 부동소수점이 u≈1 근처에서 조밀하지 않아 작은 δu가 큰 ΔQ를 만든다. 반면 u→0에서는 부동소수점이 밀집해 조건수가 완화된다. 3. **Quantile Flip‑Flop 기법** 저자는 두 개의 양자화 함수 Q₁(u)와 Q₂(u)=−log(u)/λ를 도입한다. Q₁은 u≤½ 구간, Q₂는 u>½ 구간에서 각각 잘 조건화된다. 샘플링 시 무작위로 Q₁ 또는 Q₂를 선택하고, u를