재귀형 QAOA를 활용한 무선 네트워크 간섭 인식 자원 할당 최적화

초록

본 논문은 밀집 무선 네트워크의 채널 할당 문제를 QUBO 형태로 모델링하고, 얕은 QAOA 회로와 측정된 단일·쌍 양자 상관관계를 이용한 변수 제거를 반복하는 재귀형 QAOA(RQAOA)를 적용한다. 고신뢰 변수 고정·합병을 통해 문제 차원을 점진적으로 축소하고, 최종 작은 인스턴스를 정확히 풀어 전역 최적해를 얻는다. 시뮬레이션 결과, 4사용자·4채널 사례에서 전역 최적해와 가시성을 지속적으로 달성했으며, 기존 QAOA 대비 파라미터 폭증 및 제약 위반 문제를 완화한다는 장점을 확인하였다.

상세 분석

이 연구는 무선 자원 관리(RRM) 중에서도 특히 채널 할당을 QUBO(Quadratic Unconstrained Binary Optimization) 형태로 정형화한다. 사용자‑채널 변수 x_{u,c}∈{0,1}를 도입하고, 동일 채널을 공유하는 사용자 쌍 (u,v) 사이의 간섭 가중치 w_{c}^{u,v}를 쌍곱항으로 표현한다. 제약조건(한 사용자당 하나의 채널 할당, 채널별 용량 제한)은 각각 A·(∑c x{u,c}−1)^2, B·(∑u x{u,c}−K_c)^2 형태의 이차 페널티로 전환하거나, 제약 보존 믹서(예: 원-핫 블록에 대한 Ring‑XY 믹서)를 사용해 하드 제약으로 구현한다. 이렇게 얻어진 QUBO는 Ising 형태로 변환돼 비용 해밀토니안 H_C에 매핑된다.

RQAOA는 전통적인 QAOA(p)와 달리 매 반복마다 얕은 깊이(p) 회로를 실행하고, 측정된 ⟨Z_i⟩와 ⟨Z_i Z_j⟩ 기대값을 기반으로 고신뢰 변수(단일 스핀) 혹은 고상관성 스핀 쌍을 식별한다. 단일 스핀은 sign(⟨Z_i⟩)에 따라 고정하고, 쌍은 sign(⟨Z_i Z_j⟩)에 따라 z_j = σ·z_i 형태로 합병한다. 이때 해밀토니안 파라미터는 식 (10)–(15)와 같이 선형·쌍항을 재계산해 축소된 인스턴스로 전이한다. 변수 제거는 문제 차원을 선형적으로 감소시키며, 회로 폭과 깊이를 동시에 줄여 NISQ 디바이스에 적합한 형태로 만든다. 또한, 제약 보존 믹서를 사용하면 변수 고정 과정에서 제약 위반이 자연스럽게 억제된다.

알고리즘은 사전 전처리 단계에서 고전적 정규화(고립 스핀 고정, 지배성 테스트, 무선 특화 프루닝)를 적용해 초기 차원을 더욱 감소시킨다. 이후 RQAOA 루프를 진행하고, 활성 변수 수가 사전에 정의한 cutoff n_cutoff 이하가 되면 브루트포스 혹은 ILP와 같은 정확한 솔버로 남은 서브문제를 해결한다. 마지막 단계에서는 기록된 변수 고정·합병 관계를 역추적해 전체 해를 복원한다.

실험에서는 4사용자·4채널 인스턴스를 포함한 다양한 규모의 시뮬레이션을 수행했으며, RQAOA가 매 반복마다 평균 70% 이상의 변수(또는 스핀 쌍)를 고정·합병해 최종 문제 차원을 56개 이하로 축소했다. 얕은 QAOA(p=12)만으로도 높은 기대값을 얻었으며, 최종 정확한 풀이 단계에서 전역 최적해를 일관되게 회복했다. 비교 대상으로 사용된 ILP와 그리디/채색 휴리스틱에 비해, RQAOA는 제약 위반률이 0%에 가깝고, 목표 간섭 비용에서도 2~5% 수준의 개선을 보였다. 또한, 파라미터 수가 문제 규모에 비례적으로 증가하는 전통 QAOA와 달리, 재귀적 차원 축소 덕분에 전체 파라미터 수는 30% 이하로 억제되었다.

한계점으로는 (i) 측정 샷 수에 의존하는 상관관계 추정의 통계적 불확실성, (ii) 페널티 계수 A, B의 튜닝 필요성, (iii) 현재 실험이 시뮬레이터 기반이므로 실제 양자 하드웨어의 노이즈와 커플링 오류에 대한 내성이 충분히 검증되지 않았다는 점을 들었다. 향후 연구에서는 하드웨어 오류 보정, 동적 임계값 조정, 그리고 다중 목표(전력, 지연) 최적화를 위한 다중 QUBO 결합 등을 탐색할 예정이다.