고주파 헬름홀츠 방정식 해결을 위한 확률적 확산 모델 프레임워크

초록

본 논문은 고주파 영역에서의 헬름홀츠 방정식 해석에 있어, 기존 결정론적 신경 연산자들의 스펙트럴 바이어스와 입력 민감도 문제를 극복하고자 조건부 점수 기반 확산 모델을 이용한 확률적 연산자 학습 프레임워크를 제안한다. 이 방법은 L², H¹, 에너지 노름에서 가장 낮은 오류를 기록함과 동시에, 입력 음속 지도에 대한 불확실성을 정량화하여 해에 전파한다.

상세 분석

이 연구는 고주파 헬름홀츠 방정식이 갖는 두 가지 근본적인 난점—스펙트럴 바이어스와 입력‑출력 민감도—을 정확히 진단하고, 이를 확률적 모델링으로 해결한다는 점에서 의미가 크다. 스펙트럴 바이어스는 푸리에 기반 연산자(FNO 등)가 저주파 성분을 우선 학습하고 고주파 진동을 과도하게 평활화하는 현상으로, 위상 정확도와 간섭 패턴을 크게 손상시킨다. 논문은 고주파 영역에서 연산자 노름 ‖DS‖ₒₚ가 파수 k와 전파 거리 ℓ에 비례해 선형적으로 증가함을 WKB 근사를 통해 수식화하고, 작은 음속 변동 δc가 k·ℓ 배 만큼 위상 오차를 증폭한다는 식(10)·(11)을 제시한다. 이러한 민감도는 결정론적 단일값 예측기가 평균화 과정에서 위상 정보를 소멸시켜 진폭 감소와 블러링을 초래함을 식(14)로 설명한다.

이에 대한 대안으로 저자는 조건부 점수 기반 확산 모델을 채택한다. 확산 과정은 원본 복소수 파동장 u₀를 고정된 β‑스케줄에 따라 점진적으로 가우시안 노이즈 u_T 로 변형하고, 역확산 단계에서 U‑Net 기반 스코어 네트워크 ε_θ가 시간 t와 조건 z(음속 지도, 소스 마스크, 위치 인코딩)를 입력받아 노이즈를 제거한다. 학습 목표는 조건부 denoising score matching 손실 L(θ)이며, 추론 시 다중 샘플을 생성해 조건부 분포 p_θ(u|z)를 근사한다. 이 구조는 (i) 위상 변동을 샘플 간 다양성으로 보존, (ii) 입력 불확실성을 직접적인 분산 형태로 추정, (iii) 에너지와 같은 위상에 무관한 함수형은 베이즈 최적 추정으로 안정적으로 계산할 수 있게 한다.

실험에서는 1.5×10⁵~2.5×10⁶ Hz의 6가지 주파수에 대해 256×256 격자와 J‑Wave 스펙트럴 솔버로 생성한 10,000개의 데이터셋을 사용하였다. 훈련/검증/테스트 비율은 8190/1020/500이며, 비교 대상은 FNO, HNO, U‑Net 등 최신 결정론적 연산자이다. 모든 주파수에서 확산 모델은 L², H¹, 에너지 노름 기준으로 최소 오류를 기록했고, 특히 고주파(≥2×10⁶ Hz)에서 기존 모델이 위상 손실로 급격히 성능이 저하되는 반면, 확산 모델은 안정적인 예측을 유지한다. 또한 입력 음속 지도에 가우시안 잡음을 주입한 민감도 실험에서, 확산 모델은 샘플 분산이 실제 변동과 일치하는 교정된 불확실성 추정을 제공했으며, 결정론적 모델은 과소분산으로 불확실성을 무시하는 경향을 보였다.

이 논문은 고주파 파동 문제에 확률적 연산자 학습을 적용한 최초 사례 중 하나이며, 이론적 민감도 분석과 실증적 성능 검증을 통해 확산 기반 프레임워크가 고주파 헬름홀츠 방정식의 핵심 난점을 효과적으로 해결함을 입증한다. 향후 다중 물리·다중 스케일 문제, 실시간 불확실성 기반 의사결정 등에 확장 가능성이 크다.