ELT용 레이저 가이드 스타 셰이프 핸드슨 센서 최적 설계: 가중 중심법 분석

초록

본 논문은 42 m 초대형망원경에서 발생하는 나트륨 레이어의 수직 두께에 의한 LGS 이미지 길이를 고려하여, 가중 중심‑오브‑그래비티(WCoG) 알고리즘의 성능을 시뮬레이션으로 평가한다. 두 종류의 나트륨 밀도 프로파일(단일 가우시안, 이중 가우시안)과 중앙·측면 레이저 발사 방식을 비교하고, 픽셀 스케일(0.75″/pixel)과 서브앱터처 시야(12 × 12 pixel) 최적화를 통해 필요한 광자 수와 읽기 잡음(RON) 조건에서 목표 파면오차(WFE)를 달성하기 위한 설계 기준을 제시한다.

상세 분석

본 연구는 ELT 규모(직경 42 m)의 셰이프‑핸드슨 파면센서에서 레이저 가이드 스타(LGS)의 길이 변형이 센서 성능에 미치는 영향을 정량적으로 규명한다. 나트륨층은 평균 고도 ≈ 90 km, 두께 ≈ 10 km으로, 서브앱터처가 레이저 발사점에서 멀어질수록 각도 θₑₗₒ≈L·ΔH/H² 형태의 길이 변형을 보인다. 중앙 발사(주심)와 측면 발사(주경 가장자리) 두 시나리오를 고려했으며, 전자는 방사형 대칭을, 후자는 비대칭을 만들어 최대 길이가 전자의 두 배에 달한다.

시뮬레이션은 두 가지 나트륨 밀도 모델을 사용한다. 첫 번째는 피크 90 km, FWHM 10 km인 단일 가우시안이며, 두 번째는 84 km와 94.5 km에 각각 피크를 갖는 이중 가우시안(폭 8.24 km, 2.35 km)이다. 각 모델에 대해 LGS 스팟을 ‘선원’으로 가정하고, 대기 난류에 의한 1.5″(FWHM) 원형 디스크와 결합해 실제 이미지 형태를 재현한다. 서브앱터처 내 픽셀 스케일을 0.75″, 1.0″, 1.5″/pixel로 변동시키며, 12 × 12 픽셀 시야를 기본으로 설정했다.

가중 중심‑오브‑그래비티(WCoG) 알고리즘은 각 픽셀에 가중치 Wᵢⱼ를 곱해 중심을 계산한다. 여기서 가중치는 평균 스팟 이미지(500 샘플 평균)로 정의했으며, 이는 저신호 픽셀에서의 잡음 억제를 기대한다. 그러나 가중치 자체가 비대칭이면 추정값에 편향이 발생한다. 이를 보정하기 위해 ‘γ‑보정’ 대신 실험적으로 보정 곡선(2차 다항식)을 도출하였다. 보정 곡선은 서브앱터처 위치에 따라 달라지는 길이와 형태에 맞춰 개별적으로 적용한다.

성능 평가는 OPD(광학 경로 차) 측정 RMS를 기준으로 했다. 500 광자, RON = 3 e⁻/pixel 조건에서 가장 큰 길이를 가진 가장자리 서브앱터처에 대해 0.75″/pixel 스케일이 최적임을 확인했다. 이는 길이 방향에서는 거친 샘플링이 신호대잡음비를 높여 오차를 감소시키지만, 비길이 방향에서는 과도한 저해상도가 오히려 오차를 증가시킨다. 따라서 0.75″/pixel은 두 축 모두에서 균형 잡힌 성능을 제공한다.

다음으로 전체 파면 재구성을 위해 5600개의 Karhunen‑Loeve(K‑L) 모드를 사용한 최소제곱 재구성을 적용했다. 광자 수를 200 ~ 2000 photons/서브앱터처, RON을 1 ~ 11 e⁻/pixel 범위로 변동시켜 전체 파면오차(WFE)를 계산하였다. 결과적으로 중앙 발사에서는 500 photons/서브앱터처, RON ≤ 3 e⁻/pixel일 때 WFE ≈ 200 nm 이하를 달성할 수 있었으며, 측면 발사에서는 동일 WFE를 얻기 위해 약 30 % 더 많은 광자가 필요했다. 이는 길이 변형이 클수록 가중치 보정과 시야 확장이 필수임을 의미한다.

마지막으로, 시뮬레이션 결과를 Thomas et al.(2008)의 분석식과 비교했을 때, 광자 수가 충분히 많을 경우 두 방법 간 차이는 미미했으나, 광자 수가 200 photons 이하로 감소하면 음의 픽셀값(노이즈)으로 인한 오차가 증가한다는 점을 확인했다.

이러한 종합적인 분석을 통해, ELT급 망원경에서 LGS 기반 AO 시스템을 설계할 때는 (1) 0.75″/pixel의 픽셀 스케일, (2) 12 × 12 픽셀의 서브앱터처 시야, (3) 각 서브앱터처별 맞춤형 보정 곡선 적용, (4) 최소 500 photons/서브앱터처와 RON ≤ 3 e⁻/pixel의 검출 조건을 만족시키는 레이저 파워 설계가 필요함을 제시한다.