CV SANS 데이터의 부분 산란 함수 안정적 복원을 위한 티호노프 정규화

초록

본 논문은 대비 변조 소형 중성자 산란(CV‑SANS) 실험에서 얻은 다중 대비 데이터로부터 각 성분의 부분 산란 함수와 상호 상관 함수를 추정할 때, 특이값 차이로 인한 불안정성을 티호노프 정규화를 도입해 해결한다. 정규화 파라미터 α와 가중 행렬 L을 이용해 최소제곱 문제에 안정성을 부여하고, 합성 데이터와 실제 PR(폴리로타크세인) 시스템에 적용해 정규화가 작은 값의 성분을 어떻게 복원하는지 실증하였다.

상세 분석

본 연구는 CV‑SANS 실험에서 m개의 대비 조건에 대해 측정된 강도 I(i)(Q)를 A·S(Q) 형태의 선형 방정식으로 모델링한다. 여기서 S(Q)는 (S_PP, S_CC, S_CP)ᵀ 로 구성된 3차원 벡터이며, A는 각 대비에 대한 스캐터링 길이 차이(Δρ)들의 조합으로 이루어진 m × 3 행렬이다. 기존에는 A의 특이값 분해(SVD)를 이용해 최소제곱 해를 구했지만, μ₃와 같은 작은 특이값에 대응하는 성분이 노이즈에 크게 민감해 S_PP와 같은 미세한 부분 산란 함수가 불안정하게 복원되는 문제가 있었다.

이를 해결하기 위해 저자는 Tikhonov 정규화 형태의 비용 함수
Φ(s)=‖B s−I^δ‖₂²+α²‖s‖₂² (B=AL⁻¹)
를 제시한다. 여기서 L은 각 성분의 스케일 차이를 보정하기 위한 대각 행렬이며, α는 정규화 강도를 조절한다. 정규화된 해는 (α²I+BᵀB)⁻¹BᵀI^δ 로 표현되며, 이는 B의 정규화된 Moore‑Penrose 의사역 B⁺_reg와 동일하다. α가 작을 때는 원래 SVD 해에 가까워지지만, μ₃≪α가 되면 작은 특이값에 대응하는 성분이 억제되어 노이즈가 크게 감소한다. 저자는 q(α,μ)=μ²/(α²+μ²) 라는 필터 함수를 도입해 각 특이값이 해에 기여하는 정도를 정량화하고, α가 μ₁, μ₂에 비해 충분히 작을 경우 주요 성분은 보존되면서 μ₃에 대한 과도한 증폭을 방지한다는 점을 이론적으로 증명한다.

수치 실험에서는 μ₁=64.8, μ₂=30.8, μ₃=4.55인 실제 A 행렬을 사용하고, S_PP, S_CC, S_CP를 각각 exp(−9√Q), exp(−6√Q), exp(−8√Q) 로 설정하였다. 3 % 가우시안 노이즈를 추가한 I^δ에 대해 α=0(정규화 없음)과 α=10을 적용한 결과를 비교하였다. α=0일 때 S_PP는 크게 진동하지만 S_CC와 S_CP는 정확히 복원되었다. 반면 α=10을 적용하면 S_PP는 평활해지지만 원래 함수와 약간의 편차가 발생한다. 이는 α가 μ₃보다 크게 설정되어 μ₃에 해당하는 성분을 실질적으로 차단했기 때문이다.

또한, 정규화 파라미터 선택을 위한 L‑curve 분석을 수행했으며, ‖A S*−I^δ‖₂와 ‖S*‖₂ 사이의 곡선에서 “코너”에 해당하는 α가 최적값임을 확인하였다. 그러나 모든 성분에 대해 동일한 α를 적용하면 S_CC와 S_CP가 과도하게 억제되는 trade‑off가 존재함을 지적한다. 이를 해결하기 위해 L을 대각 행렬로 조정해 각 성분에 서로 다른 가중치를 부여하는 방안을 제시한다.

결론적으로, 티호노프 정규화는 CV‑SANS 데이터에서 작은 특이값에 의해 발생하는 불안정성을 효과적으로 완화시키며, 정규화 파라미터와 가중 행렬을 적절히 선택하면 실험 데이터에서도 신뢰할 수 있는 부분 산란 함수를 얻을 수 있다.