M‑ary 채널 역문제의 정규화와 파라미터 튜닝 전략

본 논문은 M‑ary 디지털 통신 시스템에서 직교 신호를 사용했을 때의 올바른 심볼 식별 확률을 수학적으로 모델링하고, 이 확률값으로부터 채널 파라미터를 역으로 추정하는 문제를 다룬다. 먼저 저자는 전통적인 확률식(1)을 제시한다. 이 식은 신호 베이스 \(B\) (신호 지속시간·스펙트럼 폭), 신호‑대‑잡음비 \(g\), 취소 구간 상대 두께 \(\delta\) 등 네 개의 주요 파라미터와 차원 \(m\)을 포함한다. 식 (1)은 복잡한 적분 형태이지만, 핵심은 확률 \(q\)가 불변량 \(x=(1-\delta)Bg\)와 차원 \(m\)에만 의존한다는 점이다. 이를 함수 \(Q_m(x)=q\)로 정의하고, 역문제는 주어진 \(q\)에 대해 \(x\) 혹은 직접적으로 \(m, B, g, \delta\) 중 하나를 구하는 것이 된다. 수치적으로 \(Q_m(x)\)를 다양한 \(m\)값에 대해 플롯한 결과(Fig.1)는 두 가지 중요한 특성을 보여준다. 첫째, \(m\)이 작을 때는 \(Q_m\)가 비교적 완만하게 변하지만, \(m\)이 100 이상으로 커지면 함수가 급격히 포화되며 작은 \(x\) 변화에 대한 \(q\)의 민감도가 급격히 감소한다. 둘째, \(x\)가 매우 작거나 매우 클 경우 \(Q_m\)는 포화 구간에 머물러 역함수가 거의 존재하지 않게 된다. 즉, 이러한 영역에서는 입력 \(q\)에 대한 작은 측정 오차가 파라미터 추정에 큰 오류를 초래한다. 이는 전형적인 ill‑posed 문제의 특성이다. 그러나 저자는 모든 \(m\)에 대해 \(Q_m\)가 단조적이고 기울기가 충분히 큰 구간 \(