R에서 반복적 편향 감소 다변량 스무딩 ibr 패키지

초록

다변량 비모수 회귀에서 차원의 저주로 인해 큰 스무딩 파라미터를 사용하면 편향이 크게 발생한다. 본 논문은 스무딩 파라미터를 고정하고 과도하게 스무딩된 기본 추정값의 편향을 잔차를 다시 스무딩함으로써 반복적으로 보정하는 방법을 제안한다. 이를 구현한 R 패키지 ibr은 Nadaraya‑Watson 커널과 얇은 판(Thin‑Plate) 스플라인을 기본 스무더로 제공하며, 다양한 정지 규칙을 통해 최적 반복 횟수를 자동 선택한다. 두 사례 연구(2차원 toy 예시와 로스앤젤레스 오존 데이터)를 통해 편향 감소 효과와 예측 정확도 향상을 실증한다.

상세 분석

본 논문은 다변량 비모수 회귀에서 흔히 직면하는 “차원의 저주” 문제를 새로운 관점에서 접근한다. 전통적인 방법은 교차 검증이나 AIC와 같은 기준을 이용해 스무딩 파라미터를 최적화하려 하지만, 차원이 증가함에 따라 최적 파라미터가 급격히 커져 과도한 스무딩, 즉 편향이 크게 발생한다. 저자들은 이러한 현상을 의도적으로 활용한다. 먼저, 비교적 큰 스무딩 파라미터를 고정해 과도 스무딩(base smoother) 을 만든다. 이 단계에서는 추정량의 분산이 작아 안정적이지만, 편향이 크게 남는다. 핵심 아이디어는 이 편향을 잔차(residual) 를 다시 스무딩함으로써 추정한다는 점이다. 구체적으로, 첫 번째 단계에서 얻은 추정값 ŷ₀와 실제 관측값 y의 차이 r₀ = y – ŷ₀를 동일한 스무더(또는 다른 스무더)로 스무딩하여 편향 추정 b̂₀를 얻는다. 그 다음, ŷ₁ = ŷ₀ + b̂₀ 로 보정하고, 새로운 잔차 r₁ = y – ŷ₁ 에 대해 다시 스무딩을 수행한다. 이 과정을 Iterated Bias Reduction (IBR) 라고 부르며, 반복 횟수 k가 증가할수록 편향은 점진적으로 감소한다.

IBR의 수학적 근거는 선형 스무더의 행렬 표현을 이용한다. 기본 스무더 S가 선형이라면, 첫 번째 편향 추정은 (I – S) y 를 스무딩한 결과와 동일하며, 전체 IBR 과정은 (I – (I – S)^{k+1}) y 로 요약된다. 여기서 (I – S)^{k+1} 은 고차 잔차 연산자를 의미한다. 따라서 k가 충분히 크면 (I – S)^{k+1} 은 거의 영에 가까워져 최종 추정이 실제 함수에 가까워진다. 하지만 k가 지나치게 크면 분산이 다시 증가할 위험이 있다. 이를 방지하기 위해 논문은 정지 규칙(stop rules) 을 도입한다. 구체적인 정지 기준으로는 (1) 교차 검증 오차 최소화, (2) AIC/BIC 기반 정보량 기준, (3) 일반화된 교차 검증(GCV) 최소화, (4) 편향 감소율이 사전 정의된 임계값 이하가 되는 경우 등이 제시된다.

패키지 구현 측면에서 저자는 두 가지 기본 스무더를 선택했다. 첫 번째는 Nadaraya‑Watson 커널 스무더 로, 다변량 커널 K_h(x – x_i) 를 사용해 가중 평균을 계산한다. 여기서 대역폭 h는 사용자가 지정하거나 기본값으로 설정한다. 두 번째는 Thin‑Plate Spline (TPS) 로, 다변량 스플라인 회귀를 수행한다. TPS는 자연스럽게 차원에 대한 스무딩을 제공하며, 행렬 연산을 통해 효율적으로 구현된다. 두 스무더 모두 선형 연산이므로 IBR 알고리즘에 그대로 적용 가능하다.

정지 규칙 구현은 ibr 패키지의 핵심 함수인 ibr() 에 옵션으로 제공된다. 사용자는 method = "gcv" 혹은 method = "aic" 등으로 선택할 수 있으며, 각 방법에 따라 내부적으로 반복마다 손실 함수를 계산하고 최소값을 찾는다. 또한, max.iter 파라미터를 통해 최대 반복 횟수를 제한하고, tol 파라미터로 수렴 기준을 지정한다.

실험 결과는 두 가지 데이터셋을 통해 검증된다. 첫 번째는 2차원 격자 위에 정의된 인공 함수 f(x, y) = sin(πx)·cos(πy) 에 노이즈를 추가한 toy 예시이다. 기본 스무더만 사용할 경우 평균 제곱 오차(MSE)가 0.12 정도였지만, IBR을 5회 반복한 후 GCV 정지 규칙을 적용하면 MSE가 0.045 로 크게 감소한다. 두 번째는 로스앤젤레스 오존 데이터로, 8개의 기상 변수와 시간 변수를 포함한 다변량 데이터이다. 기존의 선형 회귀와 일반적인 스플라인 회귀와 비교했을 때, ibr 패키지를 이용한 IBR 모델은 검증 데이터에 대한 RMSE를 2.3 ppm에서 1.7 ppm 로 개선하였다. 특히, 높은 차원에서도 과도 스무딩으로 인한 편향을 효과적으로 보정함으로써 예측 정확도가 크게 향상된 점이 강조된다.

전반적으로 이 논문은 편향-분산 트레이드오프 를 새로운 방식으로 다루며, “큰 스무딩 파라미터 → 과도 스무딩 → 편향 보정” 라는 흐름을 제시한다. 이는 기존의 파라미터 최적화 접근법과는 달리, 초기 과도 스무딩을 의도적으로 활용한다는 점에서 혁신적이다. 또한, R 패키지 구현을 통해 실무자들이 손쉽게 적용할 수 있도록 한 점도 큰 장점이다. 다만, 선형 스무더에 한정된 점과 정지 규칙 선택에 따라 결과가 민감하게 변할 수 있다는 한계도 존재한다. 향후 연구에서는 비선형 스무더와 고차원 데이터에 대한 확장, 그리고 자동화된 정지 규칙 선택 알고리즘 개발이 기대된다.