새로운 거리 열거자를 이용한 포니 오류 지수 재검토와 단일 파라미터 최적화

초록

본 논문은 포니가 제시한 소거/리스트 디코딩 오류 지수의 기존 2차 파라미터 최적화를 대체하여, 거리 열거자의 모멘트를 이용한 단일 파라미터 최적화 방식을 제안한다. 제안된 경계는 포니 경계와 동등하거나 더 타이트하며, BSC와 같은 대칭 채널에서는 폐쇄형 해를 얻을 수 있다. 현재까지 포니 경계를 엄격히 초과하는 사례는 발견되지 않았지만, 이 기법은 다른 정보 이론 문제에서도 활용 가능성을 보여준다.

상세 분석

포니(Forney)의 소거·리스트 디코딩 오류 지수는 두 개의 보조 파라미터 ρ와 s에 대한 2차원 최적화 문제로 표현된다(식 (1)). 이 과정에서 Jensen 부등식과 (P_i a_i)^r ≤ P_i a_i^r (r≤1) 같은 부등식이 사용되며, 이는 최적화 차원을 늘리는 원인이 된다. 논문은 이러한 부등식을 배제하고, 대신 “거리 열거자(distance enumerator)”의 모멘트를 직접 평가함으로써 지수적 정확도를 유지한다. 핵심은 채널 전이 행렬과 입력 분포가 y에 대해 γ_y(s)=−ln∑_x P(x)P^s(y|x) 가 y에 독립적인 경우, 즉 γ_y(s)=γ(s)인 대칭 조건을 만족할 때이다. 이 경우 γ(s)와 그 도함수 γ′(s)를 이용해 R=γ(s)−sγ′(s) 를 풀어 s*를 구하고, 최종 오류 지수는

E*1(R,T)=sup{s≥0}