이중트리 웨이블릿 분해에서의 잡음 공분산 특성

본 논문은 이중트리 웨이블릿 변환(Dual‑Tree Wavelet Transform, DTWT)이 오버컴플리트 프레임을 형성함에 따라, 잡음이 포함된 신호를 변환했을 때 발생하는 계수 간 상관구조를 정량적으로 규명한다. 서론에서는 기존 DWT가 제공하는 독립성(백색 잡음에 대해 계수가 서로 독립)과 달리, DTWT는 프라임 트리와 듀얼 트리 사이에 내재된 힐버트 쌍 관계 때문에 상관이 도입된다는 점을 강조한다. II절에서는 M‑band DTWT의 수학적 배경을 정리한다. 스케일링 함수 ψ₀와 M‑1개의 모어 웨이블릿 ψ_m (m∈N*ₘ)을 정의하고, 파라유닛리티 조건(2)을 통해 완전 직교성을 보장한다. 듀얼 트리는 각 ψ_m의 힐버트 변환 ψ^{H}_m을 사용해 구성되며, (3)–(4)식으로 프라임·듀얼 파라미터 간 위상 및 지연 관계를 명시한다. 이 구조는 전체 변환이 tight frame이 되도록 설계된다. III절은 핵심 이론인 잡음 계수의 2차 모멘트(공분산) 식을 제시한다. 잡음 n(x)는 와이드‑센스 정규 과정으로 가정하고, 자동공분산 Γₙ(τ)와 교차상관 γ_{f,g}(τ)=∫f(x)g(x−τ)dx를 도입한다. Proposition 1에 의해 프라임‑프라임, 듀얼‑듀얼, 프라임‑듀얼 각각의 공분산이 (6)–(8)식으로 표현되며, 이는 ψ_m·ψ_{m'} 및 ψ^{H}_m·ψ^{H}_{m'}의 교차상관과 Γₙ의 컨볼루션 형태이다. Proposition 2는 ψ_m과 ψ^{H}_m이 힐버트 쌍임을 이용해 대칭·반대칭 성질을 도출한다. 특히 m≠0인 경우 γ_{ψ_m,ψ^{H}_m}(τ)는 홀함수이며, 따라서 교차공분산은 짝수·홀수 대칭을 보인다. 이는 같은 밴드 내 프라임·듀얼 계수가 동일한 분산을 가지면서도 순간적인 상관이 0임을 의미한다(식 13). 백색 잡음(σ²δ(·))에 대해서는 Γₙ이 디랙 델타이므로 (14)–(15)식이 단순화된다. 프라임‑프라임 및 듀얼‑듀얼은 완전한 독립성을 유지하고, 프라임‑듀얼은 ψ_m·ψ^{H}_{m'}의 교차상관 γ만 남는다. γ는 파동함수의 주파수 응답을 이용한 적분식(16)–(20)으로 계산되며, 밴드가 다르면 |γ|가 작아져 실질적인 독립에 가까워진다. IV절에서는 상관 감소의 상한을 제시하고, ℓ→∞(큰 지연) 혹은 저해상도(j→−∞)에서 공분산이 0에 수렴한다는 asymptotic 결과를 증명한다. 이는 계수들이 점차 화이트 노이즈와 유사해짐을 의미한다. V절은 실제 파동함수에 대한 교차상관을 구체적으로 계산한다. Daubechies, Symlet, Coiflet 등 전통적인 M‑band 웨이블릿에 대해 γ_{ψ_m,ψ^{H}_{m'}}(τ)를 수치 적분하고, 식 19·20을 통해 분석적 형태를 제시한다. 특히 m=m'≠0인 경우 γ는 −(1/π)∫|Ψ_m(ω)|² sin(ωτ)dω 형태로, 이는 파동함수 에너지 스펙트럼에 직접 연결된다. VI절은 시뮬레이션 결과를 제시한다. 백색 가우시안 잡음에 대해 1‑D·2‑D DTWT를 적용하고, 실험적으로 추정된 공분산 행렬을 이론식과 비교한다. 결과는 이론과 거의 일치하며, 특히 프라임‑듀얼 교차공분산이 식 15에 의해 예측된 대로 τ=0에서 0이 되는 것을 확인한다. 또한, 밴드 간 교차상관이 매우 작아 실제 구현에서 무시해도 무방함을 보여준다. VII절은 결론으로, 본 연구가 DTWT 기반 잡음 모델링에 필수적인 이론적 토대를 제공함을 강조한다. 파라미터 설계 시 교차상관을 고려하면 더 정교한 디노이징 및 압축 알고리즘을 설계할 수 있으며, 향후 연구로는 비정상 잡음, 다중 스케일 상관, 그리고 비선형 추정기와의 결합을 제안한다.