반과산포 일반화 선형 모델의 반파라메트릭 변수 선택과 모델 평균화

초록

본 논문은 이중 지수 회귀 모델에서 평균과 분산을 예측 변수의 가법적 함수로 표현하고, 베이지안 변수 선택과 모델 평균화를 통해 각 예측 변수가 선형으로 들어갈지 혹은 비선형(유연) 형태로 들어갈지를 자동으로 결정한다. 분산 항이 없으면 일반화 가법 모델이 되고, 모든 예측 변수가 선형이면 일반화 선형 모델이 된다. 마코프 연쇄 몬테 카를로(MCMC) 알고리즘으로 추정하며, 시뮬레이션 및 실제 데이터 사례를 통해 방법의 유용성을 입증한다.

상세 분석

이 논문은 과산포(오버디스퍼전스)를 허용하는 이중 지수(double exponential) 회귀 모델을 기반으로, 평균 구조와 분산 구조를 각각 예측 변수들의 가법적 합으로 확장한다는 점에서 기존 일반화 선형 모델(GLM)과 일반화 가법 모델(GAM)의 중간 형태를 제시한다. 평균 μ와 분산 φ를 로그-링크와 로그-링크 변환을 통해 각각 η₁=log(μ)와 η₂=log(φ)로 정의하고, η₁과 η₂를 선형항과 스무딩 함수(스플라인, 베이즈 스플라인 등)의 조합으로 표현한다. 이렇게 하면 각 변수 i가 평균에 선형으로 기여할지, 혹은 비선형 스무딩 함수 f_i(x_i)로 기여할지를 모델이 스스로 선택하도록 설계할 수 있다.

베이지안 변수 선택은 스파스(희소) 사전인 스틱-브레이크(stick‑breaking) 혹은 스파스 라플라스 사전 등을 이용해 각 변수의 포함 여부와 형태(선형 vs. 비선형)를 이진 지표 γ_i와 δ_i로 나타낸다. γ_i=1이면 변수 i가 평균 구조에 포함되고, γ_i=0이면 제외한다. δ_i=1이면 비선형 스무딩 함수를 사용하고, δ_i=0이면 순수 선형 효과만을 허용한다. 이러한 이진 지표에 대한 베타‑베르누이 사전과, 스무딩 함수에 대한 가우시안 프로세스 사전(또는 베이즈 스플라인 사전)을 결합함으로써 변수 선택과 함수 형태 선택을 동시에 수행한다.

모델 평균화는 MCMC 샘플링 과정에서 각 변수 조합에 대한 사후 확률을 추정하고, 이를 가중치로 사용해 예측값을 평균화한다. 즉, 단일 최적 모델에 의존하지 않고, 사후 확률이 높은 여러 모델을 통합함으로써 예측 불확실성을 정량화한다.

계산적으로는 Gibbs 샘플링과 Metropolis‑Hastings 단계를 혼합한 블록드 MCMC를 설계한다. 선형 계수 β와 스무딩 계수 θ는 조건부 정규분포를 이용해 직접 샘플링하고, 이진 지표 γ, δ는 베르누이 사후를 이용해 업데이트한다. 분산 파라미터 φ는 로그‑정규 사전과 결합해 메트로폴리스 단계로 샘플링한다. 또한, 스플라인 차수와 매끄러움 파라미터에 대한 하이퍼 사전도 포함시켜 모델 복잡도를 자동 조절한다.

시뮬레이션에서는 과산포를 인위적으로 삽입한 데이터와, 실제 과산포가 존재하는 의료·생태 데이터에 대해 기존 GLM, GAM, 그리고 베이지안 가변 선택이 없는 이중 지수 모델과 비교한다. 결과는 제안 방법이 변수 선택 정확도와 예측 RMSE 모두에서 우수함을 보여준다. 특히, 과산포가 심한 경우 분산 구조를 비선형으로 모델링함으로써 추정 편향을 크게 감소시킨다.

실제 사례로는 보험 청구 금액과 환경 오염 지표를 이용한 데이터가 제시된다. 여기서 일부 변수는 평균에 선형 효과만을 보였고, 다른 변수는 비선형 효과와 함께 분산에도 영향을 미치는 것으로 밝혀졌다. 모델 평균화를 적용한 후의 예측 구간은 기존 방법보다 더 현실적인 폭을 제공한다.

전체적으로 이 논문은 (1) 평균과 분산을 동시에 가법적으로 모델링하는 프레임워크, (2) 베이지안 변수 선택을 통한 선형·비선형 형태 자동 결정, (3) 모델 평균화를 통한 예측 불확실성 정량화라는 세 축을 결합함으로써 과산포 데이터를 다루는 현대 통계 분석에 중요한 도구를 제공한다는 점에서 학술적·실용적 기여가 크다.