딥러닝 기반 3단계 ISAC 빔포밍 최적화

초록

본 논문은 다중 사용자와 다중 목표를 동시에 지원하는 전이중(ISAC) 시스템에서, 전송 전력 및 최소 감지율 제약을 만족하면서 통신 합률을 최대화하는 빔포밍 문제를 다룬다. 제안된 3단계 프레임워크는 (1) 자동인코더 기반 비지도 학습으로 CSI를 고정 차원의 잠재 특징으로 압축, (2) 강화학습(A2C)으로 압축된 특징을 이용해 최적 빔패턴을 탐색, (3) 지도학습으로 빔패턴을 실제 빔포밍 벡터로 복원한다. 시뮬레이션 결과, 기존 강화학습 기반 직접 빔포밍보다 성능이 크게 향상됨을 보인다.

상세 분석

이 논문은 ISAC 시스템에서 빔포밍 최적화를 위한 기존 접근법의 두 가지 근본적인 한계를 정확히 짚어낸다. 첫째, 안테나와 사용자 수가 증가함에 따라 빔포밍 벡터의 차원이 급격히 늘어나 학습 및 추론 복잡도가 비현실적으로 커진다. 둘째, 직접 빔포밍 벡터를 최적화하면 물리적 의미가 흐려져 해석 가능성이 떨어진다. 이를 해결하기 위해 저자는 빔포밍 문제를 “특징 추출 → 빔패턴 최적화 → 빔포밍 복원”이라는 세 단계로 분해한다.

1️⃣ 비지도 학습 기반 CSI 특징 추출
자동인코더(AE)를 활용해 복소수 CSI(다운링크 채널, 업링크 채널, 자기간섭 채널 등)를 실수형 벡터로 변환하고, 차원을 압축한다. 이 과정에서 MSE 손실을 최소화함으로써 원본 CSI의 핵심 정보를 손실 없이 보존한다. 압축된 잠재 변수 f는 고정 길이이므로 이후 강화학습 에이전트의 입력 차원을 일정하게 유지할 수 있다. 이는 사용자·안테나 수가 변동해도 학습 구조를 재설계할 필요가 없다는 점에서 실용적이다.

2️⃣ 강화학습 기반 빔패턴 최적화
에이전트는 A2C(Advantage Actor‑Critic) 알고리즘을 사용한다. 상태는 압축된 CSI 특징 f와 이전 슬롯의 총 통신률 R_com(t‑1)이며, 행동은 각 빔포밍 벡터(통신, 수신, 탐지)에 대한 빔패턴 샘플 A개의 이산값이다. 빔패턴을 직접 다루면 차원이 (−90°~90°) 구간을 균일히 샘플링한 A값으로 고정돼, 원래 2·(N_t·(K+L)+N_r·L) 차원의 연속 복소수 벡터보다 학습 효율이 크게 향상된다. 보상 함수는 통신 합률과 감지율 제약을 동시에 반영하도록 설계돼, 두 목적 간의 트레이드오프를 자연스럽게 학습한다.

3️⃣ 지도학습 기반 빔포밍 복원
최적 빔패턴이 얻어지면, 이를 실제 빔포밍 벡터로 변환해야 한다. 저자는 빔패턴과 빔포밍 벡터 사이의 비선형 매핑 G⁻¹을 근사하기 위해 별도의 신경망(전형적인 Fully‑Connected 구조)을 학습한다. 입력은 빔패턴 샘플, 출력은 복소수 형태의 빔포밍 벡터이며, MSE 손실을 최소화한다. 이 단계는 “빔패턴 → 빔포밍”이라는 해석 가능한 중간 표현을 제공함으로써, 설계자가 원하는 방향성(예: 특정 각도에 에너지 집중)으로 빔을 직접 제어할 수 있게 만든다.

핵심 기여와 강점

• 차원 축소와 일반화: 자동인코더를 통한 고정 차원 특징은 시스템 규모 변화에 강인하며, 학습 데이터 요구량을 크게 감소시킨다.
• 해석 가능성: 빔패턴이라는 물리적 의미가 명확한 중간 변수 도입으로, 설계자는 최적화 결과를 직관적으로 이해하고 조정 가능하다.
• 성능 향상: 시뮬레이션에서 제안된 3단계 프레임워크는 기존 RL 기반 직접 빔포밍보다 높은 통신 합률과 감지율을 동시에 달성한다. 특히, 3‑bit 양자화 위상 시프터를 가정한 베이스라인 대비 연속 빔패턴 예측을 통해 더 정밀한 전력 분배가 가능함을 보였다.

제한점 및 향후 과제

• 실시간 구현: 비지도 학습과 지도 학습 단계는 사전 훈련이 필요하므로, 실제 시스템에 적용하려면 모델 업데이트와 재학습 메커니즘이 필요하다.
• 채널 모델 의존성: 현재는 완전한 라인‑오브‑사이트(LOS) 및 정규화된 ULA를 가정했으며, 다중 경로·비정규 배열에 대한 일반화 검증이 부족하다.
• 자기간섭(SI) 처리: SI 채널을 입력에 포함시키긴 했지만, SI 억제 기법과의 공동 최적화는 별도 연구가 필요하다.

전반적으로, 이 논문은 ISAC 빔포밍 문제를 물리적 의미가 풍부한 중간 표현(빔패턴)으로 전환하고, 딥러닝·강화학습을 효율적으로 결합한 혁신적인 접근법을 제시한다.