함수형 데이터의 비모수적 분산 함수 추정: 평균 함수 미지 상황에서의 새로운 접근

초록

본 논문은 평균 함수가 알려지지 않은 함수형 데이터에서 분산 함수를 비모수적으로 추정하는 방법을 제시한다. 제안된 커널 추정량은 잔차 제곱값을 이용하며, 평균 함수의 매끄러움이 수렴 속도에 미치는 영향을 이론적으로 분석한다. 시뮬레이션 결과, 잔차 기반 추정기가 조건부 두 번째 모멘트를 이용한 기존 방법보다 현저히 우수함을 확인한다.

상세 분석

본 연구는 함수형 데이터 분석(FDA) 분야에서 아직 충분히 다루어지지 않은 “분산 함수” 추정 문제에 초점을 맞춘다. 기존의 비모수적 분산 추정은 주로 다변량 혹은 스칼라 반응 변수에 한정되었으며, 평균 함수가 사전에 알려졌다는 전제가 흔히 사용되었다. 그러나 실제 데이터에서는 평균 함수 자체가 복잡한 함수공간에 존재하고, 이를 정확히 추정하기 어려운 경우가 많다. 논문은 이러한 현실적인 상황을 반영하여, 평균 함수가 미지인 상태에서 잔차 제곱값을 활용한 커널 추정량을 제안한다.

핵심 아이디어는 다음과 같다. 먼저, 관측된 반응 (Y_i)와 함수형 공변량 (X_i(t))에 대해 비모수적 커널 회귀를 적용해 평균 함수 (\mu(X_i))를 추정한다. 이때 사용된 커널은 함수공간상의 거리(예: L2 거리)를 기반으로 하며, 밴드위스 (h_n)는 표본 크기에 따라 점진적으로 감소한다. 평균 추정값 (\hat\mu_i)를 얻은 뒤, 잔차 (e_i = Y_i - \hat\mu_i)를 계산하고, 그 제곱 (e_i^2)에 동일한 커널 가중치를 적용해 분산 함수 (\sigma^2(X_i))를 추정한다.

이러한 두 단계 추정 과정에서 가장 중요한 이론적 기여는 “평균 함수의 매끄러움이 분산 함수 추정의 수렴 속도에 미치는 영향”을 정량화한 점이다. 저자는 함수공간의 Sobolev 차수 (s)와 분산 함수의 차수 (r)를 가정하고, 각각의 커널 차수와 밴드위스 선택에 따라 최적 수렴률을 도출한다. 결과적으로, 평균 함수가 충분히 매끄러울 경우(즉, (s)가 크면) 평균 추정 오차가 작아져 잔차 제곱값이 실제 분산에 더 가깝게 된다. 따라서 전체 추정기의 평균 제곱 오차(MSE)는 (\mathcal{O}(n^{-2r/(2r+1)}))에 근접하지만, 평균 함수가 거칠면 추가적인 (\mathcal{O}(n^{-2s/(2s+1)})) 항이 발생한다. 이는 기존 유한 차원 결과와 일치하면서도 함수형 데이터 특유의 복합성(무한 차원)까지 포괄한다.

시뮬레이션에서는 두 가지 시나리오를 설정하였다. 첫 번째는 평균 함수가 고차원 스무스 베이스(예: B-spline)로 표현되는 경우이며, 두 번째는 급격히 변하는 비선형 평균 함수를 사용한 경우이다. 각각에 대해 잔차 기반 추정기와 조건부 두 번째 모멘트(즉, (E