비선형 패널 모델의 상호 고정효과 추정: 실용적인 접근

초록

이 논문은 Chen·Fernández‑Val·Weidner(2021)의 비선형 패널 고정효과 추정법을 고차원 비볼록 최적화 없이 구현할 수 있는 두 단계 추정법을 제안한다. 첫 단계에서는 핵노름 규제를 이용해 저차원 근사값을 얻고, 두 번째 단계에서는 이를 초기값으로 하여 표준 경사하강법으로 전역 최적해를 찾는다. 제안 방법은 기존 FE 추정법과 점근적으로 동등하며, 대규모 패널에서도 계산 효율성을 확보한다.

상세 분석

본 연구는 비선형 패널 모델에서 인터랙티브 고정효과(IFE)를 다루는 기존 FE 추정법이 고차원 비볼록 최적화 문제를 풀어야 하는 실용적 한계에 주목한다. Chen·Fernández‑Val·Weidner(2021)의 FE 추정법은 이론적으로 일관성과 정규성을 보장하지만, λ_i와 γ_t라는 N·R·T 차원의 파라미터를 동시에 추정해야 하므로 전역 최적화를 위한 계산 비용이 급격히 증가한다. 저자들은 이를 해결하기 위해 두 단계 접근법을 설계한다.

첫 번째 단계에서는 원래의 저차원 제약(Λ·Γ′ 형태)을 핵노름(Nuclear Norm) 정규화로 완화한다. 핵노름은 행렬의 특이값 합으로, 저차원 구조를 촉진하면서도 문제를 볼록(convex)하게 만든다. 이 단계에서 얻은 NNR(핵노름 정규화) 추정치는 β, Λ, Γ에 대한 초기값을 제공한다. 핵노름 정규화는 기존 문헌(Moon & Weidner 2018, Chernozhukov et al. 2019 등)에서 선형 패널에 적용된 바 있으나, 비선형 로그가능도 함수와 결합될 때는 새로운 기술적 난제가 발생한다. 특히, 비선형 경우에는 파라미터 차원이 N·T에 비례해 증가하므로, Hessian 행렬의 차원도 커져 로컬 볼록성(local convexity)을 보장하기 어려워진다. 저자들은 ‘수축하는 이웃(neighborhood)’ 개념을 도입해, 실제 파라미터가 존재하는 영역 안에서만 로컬 볼록성을 증명한다. 이때 필요한 NNR 추정치의 수렴 속도는 기존 Moon & Weidner(2018)의 결과보다 빠르게 설정해야 하며, 이를 위해 제한된 강볼록성(RSC) 조건을 새롭게 정의하고, 실용적인 원시 조건을 제시한다.

두 번째 단계에서는 앞 단계에서 얻은 초기값을 이용해 원래의 비볼록 목적함수를 표준 경사하강법으로 최적화한다. 로컬 볼록성이 확보된 좁은 이웃 안에서는 경사하강법이 전역 최적해에 수렴함을 증명한다. 따라서 전체 알고리즘은 (i) 고차원 비볼록 문제를 직접 풀지 않고, (ii) 볼록화된 문제에서 얻은 고품질 초기값을 활용해 (iii) 빠른 수렴을 보장한다.

이론적 기여는 크게 세 가지이다. 첫째, 비선형 IFE 모델에서 NNR 추정치의 오류 경계(error bound)를 기존 선형/단일지수 모델보다 일반화하고, RSC 조건을 검증 가능한 원시 가정으로 전환하였다. 둘째, 로컬 볼록성의 존재 영역이 파라미터 차원에 따라 수축한다는 점을 명시하고, 그 수축 속도를 정확히 추정해 초기값이 해당 영역에 들어갈 확률이 1에 수렴함을 보였다. 셋째, 이러한 결과를 바탕으로 제안된 두 단계 추정기가 Chen·Fernández‑Val·Weidner(2021)의 FE 추정기와 점근적으로 동등함을 증명하였다. 실험에서는 N·T가 1000·200 수준인 대규모 패널에서도 기존 방법 대비 수십 배 빠른 계산 시간을 기록했으며, 추정 정확도와 신뢰구간 커버리지는 기존 FE 추정기와 거의 동일했다.