근거리 빔패턴 인식을 위한 압축 DFT 학습과 총변동(TV) 디노이징 결합 기법

초록

본 논문은 6G 차세대 초대형 안테나 배열에서 발생하는 근거리 효과를 고려해, 기존의 2차원 폴라 도메인 코드북 대신 전통적인 DFT 코드북을 활용한 저오버헤드 압축 빔 트레이닝 방식을 제안한다. 근거리 채널은 DFT 빔스페이스에서 연속적인 플래토 형태의 에너지 구역을 형성하지만, 순수 LASSO 복원은 이러한 플래토를 과도하게 축소하고 파편화한다. 이를 해결하기 위해 LASSO로 잡음 수준을 억제한 뒤, 총변동(TV) 정규화를 적용해 플래토 높이와 급격한 경계(에지)를 보존하는 3단계 알고리즘을 설계하였다. 시뮬레이션 결과, 동일 파일럿 예산에서 LASSO+TV가 LS 및 단순 LASSO 대비 NMSE와 코사인 유사도에서 일관된 향상을 보인다.

상세 분석

본 연구는 초대형 안테나(ELAA) 기반 6G 시스템에서 근거리(near‑field) 현상이 스테어링 벡터를 각도와 거리 두 변수에 의존하게 만든다는 점을 출발점으로 삼는다. 기존의 폴라‑도메인 코드북은 각도·거리 2차원 샘플링을 필요로 하여 파일럿 오버헤드와 저장 비용이 크게 증가한다. 반면, 전통적인 DFT 코드북은 각도 전용이지만, 근거리 채널에서는 파동 전파가 구면파 형태로 변형돼 에너지가 인접한 DFT 빔들에 걸쳐 연속적인 플래토(plateau) 구역을 만든다. 저자들은 2‑D DFT 빔스페이스에서 이러한 플래토가 “연결된 구역 + 급격한 경계” 형태임을 수학적으로 분석하고, 6 dB 라벨 폭을 이용해 플래토의 가로·세로 길이를 구한 뒤, 전체 활성 DFT 계수 수(K) 가 여전히 희소(sparse)함을 증명한다.

전통적인 LASSO(ℓ₁ 정규화) 복원은 계수의 절대값을 과도하게 억제해 플래토의 높이를 낮추고, 경계 근처에서 비연속적인 작은 계수가 흩어지는 현상을 일으킨다. 이는 근거리 빔패턴의 구조적 특성을 반영하지 못하는 결과이다. 총변동(Total Variation, TV) 정규화는 이미지 복원 분야에서 “piecewise‑constant” 특성을 강화하고 에지(경계)를 보존하는 특성이 알려져 있다. 따라서 LASSO와 TV를 순차적으로 적용하면, 첫 단계에서 잡음과 작은 비활성 계수를 제거하고, 두 번째 단계에서 남은 플래토 영역을 평탄하게 유지하면서 급격한 경계를 보존할 수 있다.

알고리즘은 크게 세 단계로 구성된다. ① LASSO 기반 초기 지원(support) 검출 후 상위 k개의 큰 계수를 선택한다. ② 2‑D 구조적 확장을 위해 선택된 지원을 반경(r_y, r_z) 만큼 팽창(dilation)시켜 플래토 전체를 포괄한다. ③ 확대된 지원 영역에 대해 복소수 계수의 크기 |S|에 TV 정규화를 적용해 최적화한다. 이때 비지원 영역은 0으로 고정한다. 최종적으로 복원된 빔스페이스 ŝ를 역 DFT(F) 연산해 채널 ĥ를 복원하고, 정규화된 빔포밍 벡터를 얻는다.

시뮬레이션에서는 128 × 16 UP‑A(Uniform Planar Array)를 사용해 35 경로 다중 경로 채널을 모델링하고, SNR을 0 dB20 dB 구간에서 평가하였다. 결과는 LASSO+TV가 순수 LASSO 및 최소제곱(LS) 대비 NMSE가 약 2 dB 이상 개선되고, 코사인 유사도(beamforming gain) 역시 동일 파일럿 수에서 현저히 높은 성능을 보임을 확인했다. 특히, 플래토 형태가 명확히 보존되는 것을 시각적으로 확인할 수 있었으며, 이는 실제 시스템에서 빔포밍 효율을 크게 향상시킬 수 있음을 시사한다.

이와 같이, 근거리 채널의 특수한 빔패턴을 고려한 압축 측정·복원 프레임워크는 기존의 폴라‑코드북 기반 방법보다 구현 복잡도와 파일럿 오버헤드 측면에서 유리하며, 현재 표준화된 DFT 기반 코드북을 그대로 활용할 수 있어 실용성도 높다.