나노헤르츠 수준의 주파수 측정: GP‑B 고주파 SQUID 신호 해석

초록

본 논문은 중력 실험 위성 GP‑B의 고주파(HF) SQUID 신호에서 주파수와 그 변화율을 나노헤르츠(30 nHz)까지 정밀하게 추정하는 3단계 알고리즘을 제시한다. FFT 기반 주파수 보간, 위상 차분, 그리고 저자 고유의 최적화 알고리즘을 순차 적용해 5 × 10⁻¹⁰ 수준의 정확도를 달성하였다. 이 방법은 회전 초전도 자이로의 물리 모델과 결합해 회전 속도와 트랩된 플럭스의 시간 변화를 고해상도로 측정한다.

상세 분석

이 연구는 GP‑B 임무에서 사용된 초전도 자이로의 회전축 방향을 고정밀으로 추적하기 위해, 자이로 표면에 고정된 플럭스온(fluxon)들이 생성하는 고주파 SQUID 신호를 분석한다. 신호는 2200 Hz 샘플링, 1.86 s(4096 점) 길이의 스냅샷으로 전송되며, 온보드 FFT가 0.54 Hz 간격의 19개 주파수값만을 전송한다. 저자들은 먼저 이 제한된 FFT 데이터를 이용해 “주파수 보간”을 수행한다. 중앙 빈(bin)과 양옆 빈의 복소수 FFT값 Fₙ₋₁, Fₙ, Fₙ₊₁을 이용해 비율 Rₙ₊₁=Fₙ₊₁/Fₙ, Rₙ₋₁=Fₙ₋₁/Fₙ을 계산하고, 테일러 전개를 통해 xₙ=2π(NΔt)(nf_d−f_z)/2 를 구한다. 이를 기반으로 식(7)–(12)의 보간식이 도출되며, 오차는 O(xₙ/N)≈10⁻³ Hz 수준이다. 그러나 실제 HF 신호는 기본 주파수 f_z와 그 3배·5배 고조파를 포함하므로, 저자들은 기본, 3차, 5차 고조파 각각에 보간을 적용하고 평균을 취해 최종 f_z를 얻는다.

두 번째 단계인 “위상 차분”은 연속된 스냅샷 사이의 위상 변화를 직접 측정한다. 각 스냅샷에서 추정된 f_z에 대응하는 위상 φ(t) 를 구하고, Δφ/Δt 를 통해 순간 주파수 변화를 계산한다. 이 방법은 FFT 기반 보간보다 시간 해상도가 높아, 신호의 미세한 주파수 드리프트(≈0.1 pHz / s)를 포착한다.

마지막으로 저자들이 고안한 맞춤형 알고리즘은 위 두 단계의 결과를 베이즈 추정 프레임워크에 통합한다. 모델은 자이로의 관성 모멘트 I₁, I₂, I₃와 각운동량 L을 이용해 φ_s˙(t)를 식(2)와 (3)으로 표현하고, 측정된 f_z와 위상 차분 데이터를 확률적 관측값으로 취급한다. 마르코프 체인 몬테카를로(MCMC) 샘플링을 통해 φ_s˙의 최우도값과 불확도(30 nHz, 0.1 pHz / s)를 동시에 추정한다. 이 과정에서 플럭소노드의 고조파 구조와 로렌츠 힘에 의한 미세 변조를 모델링함으로써, 기존 5 µHz 수준의 오차를 5 × 10⁻¹⁰(≈30 nHz)으로 대폭 개선한다.

핵심 통찰은 (1) 제한된 FFT 데이터만으로도 고정밀 보간이 가능함을 수학적으로 증명했으며, (2) 위상 차분을 통해 시간 연속성을 확보해 주파수 변화율을 직접 측정했다는 점, (3) 물리 모델과 통계적 추정을 결합해 전체 시스템 오차를 최소화했다는 점이다. 결과적으로 자이로 회전 속도와 트랩된 플럭스의 시간 변화를 1 part in 10⁴ 수준의 스케일 팩터 정확도로 복원할 수 있었으며, 이는 GP‑B의 프레임‑드래깅 및 지오데시 효과 측정에 필수적인 전제조건이었다.