OTFS 채널 추정을 위한 비모수 베이지안 학습

초록

본 논문은 고이동성 6G 환경에서 활용되는 OTFS 변조 방식을 위한 채널 추정 방법으로, 클러스터드 딜레이 라인(CDL) 채널의 구조적 희소성과 클러스터링 특성을 비모수 베이지안 프레임워크에 통합한다. 스틱‑브레이킹 과정을 통해 경로 수와 클러스터 수를 자동 추정하고, 각 클러스터 내 채널 계수를 가우시안 혼합 모델로 표현한다. 또한, 변분 사후분포의 희소성 특성을 이용한 새로운 프루닝 기준을 제시해 불필요한 경로를 제거함으로써 추정 정확도와 연산 복잡도를 동시에 개선한다. 시뮬레이션 결과, 기존 방법들에 비해 정규화 평균 제곱오차(NMSE) 측면에서 현저한 성능 향상을 확인하였다.

상세 분석

이 연구는 OTFS 시스템이 직면한 두 가지 핵심 난제, 즉 오프‑그리드 딜레이·도플러와 실제 무선 환경에서 나타나는 다중 클러스터 구조를 동시에 해결하려는 시도이다. 기존의 압축감지 기반 방법들은 대부분 정수 그리드에 맞춰 설계돼 오프‑그리드 오류에 취약했으며, CDL과 같은 복합 채널 모델을 고려하지 않아 실용성에 한계가 있었다. 논문은 이러한 한계를 극복하기 위해 비모수 베이지안 학습을 도입한다. 스틱‑브레이킹 프로세스는 디리클레 프로세스의 유한 차원 근사로, 경로 수와 클러스터 수를 사전에 지정하지 않고 데이터에 의해 자동으로 결정한다. 이는 채널이 실제로 몇 개의 클러스터와 경로를 가질지 모르는 상황에서 과적합을 방지하고 모델 복잡도를 적절히 조절한다는 장점을 제공한다.

클러스터 내부의 채널 계수는 가우시안 혼합 모델(GMM)로 표현되는데, 이는 각 클러스터가 서로 다른 페이딩 통계(예: 라이스, 레이 등)를 가질 수 있음을 의미한다. GMM 파라미터는 변분 베이지안 추론 과정에서 공동으로 업데이트되며, 클러스터별 정밀도(precision) 파라미터 α_h_t가 공유됨으로써 클러스터 간 통계적 유사성을 효과적으로 포착한다.

오프‑그리드 문제는 1차 선형 근사를 통해 해결한다. 실제 딜레이·도플러 값이 그리드 포인트와 일치하지 않을 때, 센싱 행렬 Φ를 현재 추정값 주변에서 테일러 전개하여 그라디언트 Φ_ν, Φ_τ를 포함한 보정 행렬 \bar{Φ}를 만든다. 이 과정은 반복적으로 수행되어 추정값이 수렴함에 따라 근사 오차가 감소한다.

변분 사후분포는 각 변수에 대한 독립적인 팩터화 가정을 두고 ELBO를 최대화함으로써 업데이트된다. 특히 스틱‑브레이킹 가중치 V_t의 베타 파라미터(λ_1, λ_2)는 경로 할당 확률 r_i,t와 결합되어 갱신되며, r_i,t는 채널 계수, 딜레이·도플러, 클러스터 평균 등 모든 통계 정보를 종합한 형태로 계산된다. 이러한 복합적인 업데이트 식은 기존의 단순 스파스 베이즈 방법에 비해 훨씬 풍부한 정보를 활용한다.

프루닝 기준은 변분 사후분포의 기대 정밀도 γ_h_i = Σ_t r_i,t ⟨α_h_t⟩ 를 이용한다. γ_h_i가 사전에 설정한 임계값 이하인 경우 해당 경로를 ‘가상’으로 판단하고 모델에서 제거한다. 이 절차는 불필요한 파라미터를 조기에 삭제함으로써 연산량을 크게 줄이고, 동시에 잡음에 민감한 가짜 경로가 최종 추정에 미치는 영향을 최소화한다.

시뮬레이션에서는 3GPP CDL‑A, CDL‑C 등 다양한 클러스터드 채널을 사용해 NMSE와 수렴 속도를 평가하였다. 제안 방법은 특히 저 SNR 구간에서 기존의 스파스 CS 기반 방법(예: TCHTP, Turbo‑IFSLA‑VBI)보다 3~5 dB 정도의 NMSE 개선을 보였으며, 평균 반복 횟수도 30% 이상 감소했다. 이는 비모수 모델링과 효율적인 프루닝이 결합될 때 얻을 수 있는 실질적인 이점을 입증한다.

전반적으로 이 논문은 OTFS 채널 추정에 비모수 베이지안 프레임워크를 성공적으로 적용함으로써, 클러스터링 구조와 오프‑그리드 현상을 동시에 모델링하고, 계산 효율성까지 확보한 점이 가장 큰 공헌이라 할 수 있다.