3.5GHz 대역 스펙트럼 센싱을 위한 딥러닝 레이더 탐지

본 논문은 미국 연방통신위원회(FCC)가 도입한 3.5 GHz 대역(CBRS)에서 상업용 무선 시스템이 군용 레이더와 스펙트럼을 공유하기 위해 반드시 따라야 하는 ESC(Environmental Sensing Capability) 센서의 레이더 탐지 요구사항을 충족시키기 위한 알고리즘 연구를 다룬다. 주요 목표는 SPN‑43 항공 교통 관제 레이더를 스펙트로그램 형태의 저해상도 데이터만을 이용해 정확히 탐지하는 것이다. 데이터는 2018년~2019년 사이에 캘리포니아 샌디에이고의 Point Loma와 버지니아 비치의 Fort Story 두 해안 지역에서 2개월간 수집된 14,739개의 3.5 GHz 스펙트로그램이다. 각 스펙트로그램은 134 시간 프레임(0.455 s 간격)과 1024 주파수 bin(≈220 kHz)으로 구성되며, 200 MHz 대역(3465‑3665 MHz)을 포괄한다. 라벨링은 저자 중 한 명이 시각적으로 수행했으며, SPN‑43 존재 여부와 Radar 3 OOBE(Out‑of‑Band Emission) 두 가지 항목을 표시하였다. 라벨링된 데이터는 4,491개이며, 이 중 3,318개는 레이더 파형이 기록된 경우(선택 편향)이고, 나머지 1,173개는 무작위 추출된 사례다. 알고리즘은 총 13가지로, (1) 전통적인 신호 탐지 방법 2가지(표준 에너지 검출, 스윕‑통합 에너지 검출), (2) 고전 머신러닝 3가지(SVM, K‑Nearest Neighbor, Gaussian Mixture Model), (3) 딥러닝 8가지(기존 CNN VGG‑16/19, ResNet‑18/50, Inception‑V1, DenseNet‑121, 그리고 저자 설계 3‑layer CNN과 LSTM)로 구성된다. 전통 신호 탐지는 전체 10 MHz 채널이 아닌, SPN‑43가 주로 차지하는 중앙 660 kHz 구역만을 대상으로 에너지를 합산했으며, 스윕‑통합 방식은 레이더 회전 주기(≈3.85 s)를 이용해 스윕 템플릿을 생성하고, 템플릿과 교차 상관을 통해 정렬 후 에너지 합산을 수행한다. 고전 머신러닝은 입력 차원을 전체(134 × 46=6,164), 시간축 합산(134), 혹은 중앙 2주파수 bin(134 × 2)으로 축소해 각각 실험하였다. 딥러닝 모델은 TensorFlow 기반으로 Nvidia DGX‑V100 4GPU 서버에서 학습되었다. 학습은 10 MHz 채널 단위로 수행했으며, 동일 모델을 3550‑3650 MHz 구간의 모든 10 MHz 채널에 병렬 적용하는 방식을 채택했다. 다채널 단일 모델보다 다중 단일 채널 모델이 성능이 우수함을 사전 실험을 통해 확인하였다. 성능 평가는 ROC 곡선, AUC, 정확도, 검출률(Recall), 오탐률(FPR) 등을 사용했다. 전통 신호 탐지는 AUC가 0.70 이하로 낮았으며, 특히 OOBE가 강하게 나타나는 구간에서 오탐이 빈번했다. KNN·SVM·GMM도 입력 차원에 따라 성능 차이가 있었지만, 최고 AUC는 약 0.82 수준에 머물렀다. 반면, 3‑layer CNN은 AUC 0.98, 정확도 95% 이상을 기록했으며, 연산량은 ResNet‑50·DenseNet‑121 등 대형 모델에 비해 3~5배 적었다. LSTM은 시간 연속성을 활용하려 했지만, 스펙트로그램이 정적 강도 맵 형태라 3‑layer CNN보다 약간 낮은 성능을 보였다. 최적 모델인 3‑layer CNN을 전체 데이터에 적용해 SPN‑43 존재 여부를 자동 라벨링하고, 시간·주파수별 점유율을 통계적으로 분석하였다. 결과는 특정 시간대(예: 야간)와 특정 주파수(3570 MHz 주변)에서 SPN‑43 점유율이 10~15% 수준이며, Radar 3 OOBE가 강하게 나타나는 구간에서는 탐지 정확도가 약 2~3% 감소한다는 점을 보여준다. 이러한 통계는 ESC 센서 설계 시, 탐지 임계값 및 필터링 전략을 최적화하는 데 실질적인 근거를 제공한다. 결론적으로, (1) 대규모 실측 스펙트로그램 데이터셋을 활용한 포괄적 알고리즘 벤치마크를 수행했으며, (2) 전통적인 에너지 기반 탐지와 고전 머신러닝이 딥러닝에 비해 현저히 낮은 성능을 보임을 실증했고, (3) 비교적 얕은 3‑layer CNN이 정확도·연산 복잡도 모두에서 최적임을 입증했다. 이는 차세대 CBRS ESC 시스템에 적용 가능한 실용적인 레이더 탐지 솔루션을 제시한다는 점에서 의의가 크다.