레이다 수신 필터와 파형 공동 설계의 이중볼록 최적화

본 논문은 레이다 신호 처리 분야에서 수신 필터와 전송 파형을 동시에 설계하는 문제를 다루며, 이를 이중볼록(biconvex) 최적화 문제로 모델링한다. 서론에서는 레이다 STAP(Space‑Time Adaptive Processing) 시스템에서 파형 설계가 시스템 성능을 크게 좌우함을 언급하고, 기존 연구들이 파형과 필터를 별도로 최적화하거나 완전 비볼록 형태로 접근했으나 계산 복잡도가 급증한다는 한계를 지적한다. 2절에서는 이중볼록 프로그래밍의 정의를 제시하고, 레이다 모델에 적용한다. 목적함수는 수신 필터 w와 파형 s에 대한 출력 전력 E{|w^H y|^2}를 최소화하는 형태이며, 제약조건으로는 캡톤 전력 제한(κ), 전송 전력 제한(P_o) 및 하드웨어 제약(λ) 등을 포함한다. 필터 w를 고정하면 파형 s에 대한 문제는 2차 형태의 목적함수와 2차 제약조건으로 구성되어, 제한된 최소제곱(constrained least squares) 형태로 표현된다. 이때 파형 설계 문제를 반정밀도 프로그램(SDP) 혹은 2차 제한 2차 계획(QCQP)으로 변환함으로써 기존 최적화 솔버를 그대로 적용할 수 있음을 보인다. 3절에서는 교대 최소화(Alternating Minimization, AM) 알고리즘을 상세히 기술한다. 초기값 (w_0, s_0) 를 설정한 뒤, 매 반복 k에서 (1) 파형 s_k 를 고정하고 w_{k+1}=argmin_w f(w,s_k) 를 풀어 필터를 업데이트하고, (2) 필터 w_{k+1} 를 고정한 뒤 s_{k+1}=argmin_s f(w_{k+1},s) 를 풀어 파형을 업데이트한다. 파형 업데이트 단계는 (4a)(4b) 식에 제시된 행렬 역연산을 포함하며, 여기서 G와 F는 클러터·간섭·노이즈 공분산 행렬에 대한 함수이다. 핵심 이론적 기여는 이중볼록 제약이 매 반복마다 변한다는 점이다. 저자는 각 반복에서 발생하는 제약 집합 C_k 를 그 볼록 껍질(convex hull) \(\operatorname{conv}(C_k)\) 로 근사하고, \(\operatorname{diam}(\operatorname{conv}(C_k))\) 가 충분히 작을 경우 전체 문제를 ‘제한된 카르테시안 곱(convex Cartesian product) 집합’ 위에서 정의된 이중볼록 문제와 동등하게 만들 수 있음을 증명한다. 이 조건 하에서 AM은 목적함수 값을 단조 감소시키며, 수렴점이 존재하고 그 점이 지역 최소점임을 보인다. 4절에서는 파형 설계 단계의 구체적 변환 과정을 제시한다. 파형 s 를 K 차원 부분공간 U와 그 여공간 V 로 분해하고, s = s_U + s_V 로 표현한다. 이를 통해 목적함수를 s_U, s_V, 그리고 y_w = G w 와의 내적 형태로 재구성하고, 최종적으로 QCQP 형태인 \