신호 코드를 이용한 연속 알파벳 채널 고성능 격자 코딩

본 논문은 연속 알파벳 채널, 특히 대역 제한된 AWGN 채널에 최적화된 새로운 격자 코딩 방식인 ‘신호 코드’를 제안한다. 기존의 트레시스 코딩, 부분 응답 신호(PRS), 그리고 Faster‑Than‑Nyquist(FTN) 방식은 각각 ISI를 이용해 대역 효율을 높이거나 전송 속도를 증가시키는 반면, 신호 코드는 전송 속도와 대역폭을 그대로 유지하면서도 심볼 간 거리를 늘려 오류 확률을 감소시킨다. 첫 번째 단계는 QAM 혹은 PAM 심볼 시퀀스 aₙ을 최소 위상 필터 F(z)=1+∑_{l=1}^{L} f_l z^{-l}와 컨볼루션하여 xₙ = aₙ + ∑_{l=1}^{L} f_l a_{n‑l} 로 변환하는 것이다. 이때 필터는 단위 계수를 갖는 Toeplitz 형태의 생성 행렬 G와 동등하게 표현될 수 있다. G는 (N+L)×N 크기의 행렬이며, 각 열은 필터 계수를 포함한 시프트 형태로 배치된다. 따라서 코드워드 x는 x = G a 로 나타낼 수 있다. 하지만 필터링은 평균 전력을 증가시킨다. 이를 해결하기 위해 ‘쉐이핑’ 단계가 도입된다. 저자는 두 가지 실용적인 쉐이핑 방법을 제시한다. 첫 번째는 톰린슨‑하라시마 프리코딩 방식으로, aₙ을 정수 kₙ에 의해 변형한 bₙ = aₙ – 2M kₙ 로 만든 뒤, 동일한 필터를 적용한다. kₙ는 xₙ의 실·허수부가