변동성 채널 모델링을 위한 변분 GAN 접근법

본 논문은 무선 통신 시스템 설계·평가에 필수적인 채널 모델링을 데이터‑드리븐 방식으로 접근한다. 전통적인 채널 모델은 AWGN, Rayleigh 등 간단한 확률분포를 가정하지만, 실제 환경에서는 비선형 증폭기, 위상 잡음, 다중 경로 페이딩 등 복합적인 현상이 동시에 존재한다. 이러한 복잡성을 분석적으로 표현하기는 어렵고, 모델‑프리 접근이 요구된다. 저자들은 이전 연구에서 GAN을 이용해 채널 응답을 근사했으나, MSE 손실에 의존해 평균값만 학습하고 분산·고차 모멘트를 놓치는 한계를 확인했다. 이를 해결하기 위해 변분 GAN(Variational GAN) 구조를 제안한다. 핵심은 채널을 조건부 확률분포 p(y|x)로 보고, 입력 심볼 x를 조건으로 하는 생성기 h(x,θ_h)를 설계하는 것이다. h는 여러 FC‑ReLU 레이어를 거쳐 변분 레이어에 도달하고, 여기서 평균 μ와 표준편차 σ를 출력한다. 이 파라미터를 이용해 가우시안 잠재 변수 z∼N(μ,σ²) 를 샘플링하고, 다시 FC‑Linear 레이어를 통해 ŷ 를 생성한다. 이렇게 하면 생성기 자체가 확률적이며, 학습 과정에서 실제 채널 측정값 y와 ŷ 를 구분하는 판별기 D(x,y,θ_D) 가 교차 엔트로피 혹은 Wasserstein 손실을 최소화한다. 수식 (4)‑(7)에서 제시된 바와 같이, D는 실제와 가짜 샘플을 동시에 입력받아 로그‑우도 형태의 그래디언트를 제공하고, h는 D의 출력에 대한 역전파를 통해 파라미터를 업데이트한다. WGAN 변형을 적용하면 손실 함수가 연속적이고 라플라시안 평활성을 유지해 학습 안정성을 크게 향상시킨다. 아키텍처는 표 I·II에 상세히 명시되어 있다. 생성기에는 4개의 FC‑ReLU 레이어(각 20, 20, 20, 80 유닛)와 2개의 Linear 레이어가 포함되며, 변분 레이어는 16차원 잠재 공간을 사용한다. 판별기는 3개의 FC‑ReLU 레이어와 최종 Sigmoid 출력으로 구성된다. 학습은 Adam 옵티마이저(학습률 1e‑4~5e‑4)와 미니배치 교대로 진행한다. 실험은 네 가지 시나리오로 진행되었다. 첫 번째는 가장 단순한 BPSK‑AWGN 채널이다. MSE 기반 모델은 평균값만 복원하고 분산을 0으로 수렴했지만, 변분 GAN은 평균·분산을 모두 정확히 재현해 실제 SNR과 일치하는 PDF를 얻었다. 두 번째는 비정규 Chi‑Squared 채널로, 16차원 가우시안 잠재 변수를 조합해 비정규 분포를 근사했다. 일부 오차는 잠재 차원 확대나 혼합 가우시안 샘플링으로 개선 가능함을 보였다. 세 번째는 4‑QAM 복소수 신호에 대한 2D 분포 학습으로, 실제와 모델이 생성한 히트맵이 거의 일치했다. 마지막으로 16‑QAM에 AM/AM, AM/PM 비선형성, 위상 잡음, 위상 오프셋 등을 포함한 복합 채널을 모델링했다. 여기서는 각 심볼 주변의 분산·편향을 잘 포착했으며, 고진폭 영역에서 방사형 분산이 다소 과소평가되는 현상이 관찰되었다. 이는 모델 용량 확대나 WGAN‑GP 적용으로 해결될 수 있다. 논문은 또한 확장 가능성을 논의한다. 차원 확대, RNN 기반 시계열 모델링, 극좌표 특화 레이어 등을 도입하면 시간 변동 SNR, 페이딩, 다중 경로 효과 등을 자연스럽게 포함할 수 있다. 또한, 모델 복잡도와 학습 안정성 사이의 트레이드오프를 조절하기 위해 다양한 GAN 변형(Gradient Penalty, Spectral Normalization 등)을 적용할 수 있다. 결론적으로, 변분 GAN을 이용한 조건부 채널 모델링은 기존 분석적 모델이 놓치던 평균·분산·고차 모멘트까지 포괄적으로 학습한다. 이는 자동 인코더 기반 물리계층 설계, 시뮬레이션, 성능 예측 등에 직접 활용 가능하며, 실제 측정 기반 채널 모델링의 새로운 패러다임을 제시한다.