비대각 잡음 공분산을 활용한 라디오 배열 자체 보정

본 논문은 현대 전파천문학에서 급격히 확대되고 있는 대형 페이즈드 어레이 망원경, 특히 저주파 배열인 LOFAR와 MWA의 보정 문제를 다룬다. 이러한 배열은 수십에서 수백 개의 안테나가 밀집된 형태로, 각 안테나는 전자적 특성 변화와 전리층에 의한 방향 의존 이득 변동을 지속적으로 보정해야 한다. 전통적인 보정 방법은 안테나별 이득·위상과 점원천 모델을 이용해 공분산 행렬 R₀(θ)를 구성하고, 이를 측정된 공분산 R̂와 비교해 최소제곱 혹은 최대우도 추정으로 θ를 구한다. 그러나 안테나 간 거리가 파장의 절반 이하인 경우, 잡음 결합(noise coupling)과 은하면의 광범위한 배경 복사가 짧은 기저거리(짧은 베이스라인)에서 강하게 나타난다. 이러한 현상은 공분산 행렬에 비대각 항을 추가하게 만들며, 기존의 대각 잡음 모델로는 충분히 설명되지 않는다. 논문은 이 문제를 해결하기 위해 비대각 잡음 공분산 행렬 Σₙ을 명시적으로 모델링한다. Σₙ은 짧은 기저거리 쌍(i,j)에 대해 선택 행렬 Eᵢⱼ와 스칼라 파라미터 σᵢⱼ의 선형 결합으로 표현된다. 즉, Σₙ = Σ_{(i,j)∈S} σᵢⱼ Eᵢⱼ 로, S는 잡음이 유의한 기저거리 인덱스 집합이며, σᵢⱼ는 실수값 잡음 파라미터이다. 이렇게 하면 복잡한 확장 방출, 안테나 간 잡음 결합, 수신기 잡음 전력 등을 하나의 파라미터 집합으로 흡수할 수 있다. 추정 목표는 관측된 공분산 R̂와 모델 R₀(θ)+Σₙ 사이의 차이를 가중 최소제곱 비용 ‖W(R̂−R₀(θ)−Σₙ)‖_F² 로 최소화하는 것이다. 여기서 W는 최적 가중치 행렬로, 일반적으로 R⁻¹/² 로 설정한다. 하지만 R은 미지이므로 초기에는 R̂⁻¹/² 로 대체한다. 알고리즘은 가중 교대 최소제곱(Weighted Alternating Least Squares, WALS) 방식이다. 첫 단계에서 현재 잡음 파라미터 σₙ^{(k‑1)} 를 고정하고, θ^{(k)} 를 기존의 WLS(또는 ML) 방법으로 추정한다. 두 번째 단계에서는 새로 얻은 θ^{(k)} 를 고정하고, σₙ^{(k)} 를 선형 시스템 (W⊗W) I_s σₙ = vec