부분 이분산 디컨볼루션을 이용한 비모수 회귀 추정

초록

본 논문은 일부 설명변수는 정확히 관측되고, 일부는 이분산 측정오차를 포함하는 상황에서 비모수 회귀함수를 추정하기 위한 부분 디컨볼루션 커널 추정량을 제안한다. 제안된 추정량은 이론적으로 최적 수렴률을 달성함을 증명하고, 시뮬레이션을 통해 유한표본 성능이 기존의 naïve 추정법보다 우수함을 확인한다.

상세 분석

이 연구는 전통적인 비모수 회귀에서 모든 설계변수가 정확히 관측된 전제와 달리, 실제 데이터에서 흔히 나타나는 “오류‑변수” 문제를 다룬다. 특히, 기존 문헌이 주로 가정해 온 동분산(동일한 오류분포) 가정을 완화하고, 관측치마다 서로 다른 오류분포를 가질 수 있는 이분산(heteroscedastic) 상황을 모델링한다. 모델 (1.3)은 관측된 서브스트레이트 (W_j = T_j + U_j) 로 표현되며, 여기서 (U_j) 의 밀도 (f_{U_j}) 가 (j) 와 표본크기 (n) 에 따라 달라질 수 있다.

핵심 아이디어는 기존 동분산 디컨볼루션 커널 추정식 (1.2)을 각 관측치별 오류특성함수 (\phi_j(v)=\frac{\widehat{f_{U_j}}(-v)}{\sum_{k=1}^n|\widehat{f_{U_k}}(v)|^2}) 로 대체한 새로운 부분 디컨볼루션 회귀 추정량 (1.4)를 제시하는 것이다. 이때 사용되는 커널 (L_{U_j}) 은 (1.6)‑(1.7) 에서 정의된 바와 같이 각 오류분포의 푸리에 변환을 이용해 가중치를 부여한다.

이론적 분석은 다섯 가지 기본 가정(A1‑A5)과 추가적인 대역폭 조건(2.1)을 전제로 한다. A1 은 최소 하나의 오류분포 푸리에 변환이 영이 아니어야 함을 요구해, 전체 오류가 모두 영점에서 소멸하는 경우를 배제한다. A5 는 모든 (j) 에 대해 (\sum_{j=1}^n| \widehat{f_{U_j}}(v) |^2) 가 충분히 커서 분모가 0이 되는 상황을 방지한다. 이러한 가정 하에 정리 1은 점별 일관성 및 강한 일관성을 보이며, 대역폭 비율 (b = Ah) 와 추가적인 속도 조건을 만족하면 거의 확실히 (r(x,t)) 로 수렴한다.

정리 2에서는 최소 위험(minimax) 관점에서 수렴률을 평가한다. 함수 클래스 (F_{\beta,C}) 와 오류분포에 대한 약한 단조성 가정(C1‑C5)을 도입해, 제안 추정량이 (n^{-2\beta/(2\beta+1)}) 수준의 최적 속도를 달성함을 보인다. 특히, (2.5)‑(2.6) 식은 어떤 추정량이라도 이보다 빠른 속도로 수렴할 수 없음을 증명함으로써 제안 방법의 최적성을 확립한다.

시뮬레이션에서는 두 가지 회귀형태(다항식·지수형, 부분선형)와 두 종류의 오류분포(라플라스, 정규)를 사용해, 표본크기 (n=100,500,800) 에 대해 평균제곱오차(ASE)를 비교한다. 결과는 이분산 오류가 존재함에도 불구하고 제안 추정량이 naïve 추정(오류를 무시)보다 일관되게 낮은 ASE를 보이며, 특히 오류분포가 라플라스이든 정규이든 성능 차이가 크지 않음을 확인한다. 또한, 부분선형 모델에서는 추가적인 구조적 추정식 (3.3) 과 비교했을 때도 경쟁력 있는 결과를 제공한다.

마지막으로 논문은 대역폭 선택이 아직 미해결 과제로 남아 있음을 언급한다. 오류‑변수 문제에서 대역폭을 데이터‑드리븐 방식으로 선택하는 것은 복잡한 역문제이며, 향후 연구에서 이를 해결하는 것이 실용적 적용에 필수적이다. 또한, 오류밀도가 알려지지 않은 경우에 대한 확장 가능성도 제시한다.