BDRIS 채널 추정과 학습 행렬 최적화를 위한 공동 훈련 프레임워크

본 논문은 Beyond‑Diagonal Reconfigurable Intelligent Surface(BD‑RIS)를 활용한 다중사용자 MIMO 시스템에서 채널 상태 정보를 정확히 획득하기 위한 새로운 학습 기반 프레임워크인 JTSML‑CEF(Joint Training Scattering Matrix Learning and Channel Estimation Framework)를 제안한다. 1) **연구 배경 및 문제점** BD‑RIS는 기존 대각형 RIS(D‑RIS)와 달리 각 요소 간에 가변 연결을 허용함으로써 파동 조작 자유도를 크게 확대한다. 그러나 이러한 자유도 증가는 효과 채널 차원을 급격히 증가시켜, 전통적인 파일럿 기반 채널 추정 방법으로는 파일럿 오버헤드가 급증하고, 실시간 추정이 어려워진다. 기존 연구들은 Kronecker‑product 구조나 텐서 분해를 이용해 차원을 축소하려 했지만, (i) 안테나 간 공간 상관, (ii) RIS‑사용자 간 통계적 상관, (iii) BD‑RIS의 대칭·유니터리 제약을 충분히 반영하지 못한다. 또한, 비대칭(비reciprocal) 네트워크를 전제로 한 훈련 패턴 설계는 실제 reciprocal BD‑RIS에 적용하기 어렵다. 2) **시스템 모델** - BS: N 안테나, BD‑RIS: M 요소, 그룹‑연결 구조(G 그룹, 각 그룹당 ȳM = M/G 요소) - K 사용자, 각 사용자당 U 안테나 - 채널은 블록 페이딩 모델이며, 직접 BS‑사용자 링크는 차단된 것으로 가정하고 cascaded 사용자‑RIS‑BS 채널 H_eff,k = H_IT Φ H_RI,k 로 표현한다. - 그룹‑연결 BD‑RIS는 블록‑대각선 산란 행렬 Φ = blkdiag(Φ₁,…,Φ_G) 로 나타내며, 각 블록 Φ_g 는 대칭·유니터리(Φ_g^H Φ_g = I, Φ_g^T = Φ_g)이다. 3) **Reduced‑Coefficient 재구성** 위 제약을 이용해 H_eff,k 를 φ_g = vec(Φ_g) 와 결합된 형태 ˜Q_k,g 로 재작성한다. 즉, H_eff,k = Σ_g ˜Q_k,g φ_g 로 표현함으로써 원래 M² 차원의 파라미터를 G·ȳM² 로 감소시킨다. 이는 동일한 산란 계수를 공유하는 채널 계수를 하나로 묶는 효과이며, 학습 및 최적화 복잡도를 크게 낮춘다. 4) **두 단계 채널 추정 프로토콜** - **Phase I (TSMO)**: 현재 파일럿 수신 신호를 입력으로, 훈련 산란 행렬 Φ 를 최적화한다. TSMO는 (a) 복소수 행렬을 실수 파라미터화하고, (b) 유니터리·대칭 제약을 라그랑주 승수와 projection 연산을 통해 강제한다. 최적화된 Φ는 이후 Phase II에서 고정된다. - **Phase II (DACE)**: 최적화된 Φ 를 사용해 실제 파일럿 데이터를 입력으로, 이중‑주의 채널 추정기(Dual‑Attention Channel Estimator)를 통해 ˜Q_k,g 를 복원한다. DACE는 (i) intra‑user attention: 동일 사용자 내 안테나‑RIS 포트 간 상관을 학습, (ii) inter‑user attention: 서로 다른 사용자 간 공유 BS‑RIS 경로와 RIS‑사용자 통계 상관을 학습한다. 두 attention 모듈은 Multi‑Head Self‑Attention(MHSA) 구조를 채택하고, residual 연결을 통해 최종 채널 추정값을 출력한다. 5) **학습 방식 및 구현** 전체 파이프라인은 end‑to‑end 방식으로 공동 학습한다. 파일럿 시퀀스는 TDD 프레임 내에서 일정 비율(예: 20 %)만을 Phase I에 할당하고, 나머지는 Phase II에 사용한다. 손실 함수는 NMSE와 TSMO의 제약 위반 페널티를 결합한 형태이며, Adam 옵티마이저로 학습한다. 6) **시뮬레이션 결과** QuaDRiGa 기반 실내 및 Urban‑Micro (UMi) 시나리오에서 N=64, M=256, K=8, U=2 등 다양한 설정을 테스트하였다. 주요 결과는 다음과 같다. - 파일럿 오버헤드 80 % 감소(전체 파일럿 슬롯 대비 20 %만 사용) - 실내 환경 NMSE 82.6 % 개선, UMi 환경 NMSE 92.5 % 개선(기존 LS, Kronecker‑product, 텐서 기반 방법 대비) - 전송 전력 변화에 대해 안정적인 성능 유지, 특히 저 SNR 구간에서도 10 dB 이하 NMSE 달성 - 혼합 데이터셋(실내+UMi)으로 학습한 모델이 각각의 환경에서 동일하게 우수한 성능을 보이며, 데이터셋 불일치에 대한 강인성을 확인하였다. 7) **논의 및 한계** - 제안 방법은 그룹‑연결 BD‑RIS에 특화되어 있어, 완전 연결형 혹은 비대칭 네트워크에 대한 일반화는 추가 연구가 필요하다. - TSMO 단계의 복소수 유니터리 제약을 만족시키는 투사 연산이 연산량을 증가시키므로, 실시간 구현을 위한 하드웨어 가속(예: FPGA, ASIC) 설계가 요구된다. - 현재는 단일 주파수 대역(좁은 대역) 모델을 가정했으며, 광대역 OFDM 환경에서의 확장은 향후 과제로 남는다. 8) **결론** JTSML‑CEF는 BD‑RIS의 구조적 특성을 정확히 모델링하고, 다차원 채널 상관을 학습 기반 이중‑주의 메커니즘으로 효율적으로 활용한다. 파일럿 오버헤드를 크게 줄이면서도 높은 채널 추정 정확도를 달성함으로써, 차세대 RIS‑aided 무선 시스템에서 실용적인 CSI 획득 방법으로서 큰 잠재력을 보여준다.