신경망 기반 ISDB‑TB FBMC 채널 추정 기법

초록

본 논문은 브라질 디지털 TV 표준인 ISDB‑TB에서 필터뱅크 멀티캐리어(FBMC) 변조 방식을 사용한 전송 시스템의 채널 추정을 위해 인공신경망(ANN)을 적용한다. 백프로파게이션 학습을 통해 파일럿 신호로부터 채널 주파수 응답을 예측하고, 이를 기반으로 등화 계수를 도출한다. 시뮬레이션 결과, 전통적인 최소제곱(LS) 및 최소 평균제곱오차(MMSE) 추정에 비해 BER이 크게 개선됨을 확인하였다.

상세 분석

본 연구는 FBMC가 사이클릭 프리픽스(CP)를 사용하지 않아 전통적인 OFDM 기반 채널 추정 기법을 그대로 적용하기 어려운 점에 주목한다. FBMC는 높은 스펙트럼 효율과 인접 채널 간 간섭 감소라는 장점을 제공하지만, 각 서브캐리어가 필터링되어 시간‑주파수 영역에서 복잡한 상호간섭(inter‑carrier interference, ICI)이 발생한다. 이러한 특성은 파일럿 배치와 채널 추정 정확도에 큰 영향을 미친다. 논문은 이러한 문제를 해결하기 위해 다층 퍼셉트론(MLP) 구조의 인공신경망을 설계하고, 파일럿 심볼을 입력으로 채널 주파수 응답을 직접 학습하도록 한다. 학습 과정은 역전파(back‑propagation) 알고리즘을 사용하며, 손실 함수는 실제 채널 응답과 NN이 예측한 응답 사이의 평균 제곱오차(MSE)로 정의한다. 네트워크는 입력층에 복소수 파일럿 값을 실수와 허수 두 개의 채널로 분리하여 제공하고, 은닉층에서는 비선형 활성화 함수(ReLU)를 적용해 복잡한 비선형 관계를 모델링한다. 출력층은 동일하게 실수·허수 형태로 채널 이득을 반환한다.

시뮬레이션 환경은 8 K 초고화질(8K SUPER Hi‑VISION) 전송을 목표로 하며, 전송 파라미터는 ISDB‑TB 규격에 맞춰 서브캐리어 수, 필터 길이, 파일럿 배치 패턴 등을 설정하였다. 채널 모델은 다중 경로 레일리 페이딩과 정적 및 동적 도플러 효과를 포함한 3GPP‑EPA, EVA, ETU 시나리오를 사용하였다. 제안된 NN 기반 추정기는 동일한 파일럿 구성을 갖는 LS 및 MMSE 추정기와 비교되었으며, BER‑SNR 곡선에서 2 dB~3 dB 수준의 이득을 보였다. 특히 고속 이동 상황(속도 > 120 km/h)에서 ICI가 심화되는 경우, NN이 비선형 보정 능력을 발휘해 전통적 방법보다 안정적인 성능을 유지한다.

또한 연산 복잡도 측면에서, 학습 단계는 오프라인으로 수행되므로 실시간 처리에 큰 부담을 주지 않는다. 추정 단계에서는 전방 전파(forward propagation)만 수행되며, 이는 행렬 곱셈 수준의 연산으로 구현 가능하다. 따라서 실제 방송 수신기에서 FPGA 혹은 ASIC 기반으로 구현할 경우, 전통적인 MMSE와 비교해 메모리 요구량이 감소하고 전력 소모가 낮아지는 장점이 있다.

본 논문은 신경망을 이용한 채널 추정이 FBMC 기반 디지털 TV 시스템에서 실용적인 대안이 될 수 있음을 실험적으로 입증했으며, 향후 실제 방송 환경에서 파일럿 설계와 네트워크 구조 최적화를 통해 더욱 높은 효율을 기대한다.