대규모 혼합 다항 로짓 모델을 위한 결합 변분 추정법과 소비자 선택 분석

초록

본 논문은 대규모 데이터에 적용 가능한 새로운 변분 추정법인 결합 변분 추정(CVI)을 제안한다. CVI는 라플라스 2차 테일러 전개와 가우시안 사전 결합을 이용해 랜덤 계수의 조건부 사후분포를 효율적으로 업데이트한다. 기존 데이터 증강 변분(DA‑VI)과 암시적 변분(A‑VI) 대비 정확도와 속도에서 우수함을 시뮬레이션과 미국 대형 식료품 체인의 파스타 구매 패널 데이터에 적용해 입증한다. 결과는 가격·프로모션에 대한 소비자 이질성이 매장·상품 수준에서 크게 나타나며, 매장 규모·프리미엄·지역이 가격 탄력성에 영향을 미친다는 실증적 인사이트를 제공한다.

상세 분석

이 연구는 혼합 다항 로짓(MMNL) 모델의 베이지안 추정이 관측치와 랜덤 계수 차원이 급증함에 따라 기존 MCMC 방법이 계산적으로 비현실적이라는 문제를 인식하고, 변분 추정법(VI) 중에서도 특히 대규모 상황에 적합한 새로운 알고리즘을 설계했다. 핵심 아이디어는 로그우도 함수를 2차 테일러 전개하여 가우시안 형태의 근사 사후분포를 얻고, 이를 사전 정규분포와 결합(conjugate)함으로써 ‘조건부 가우시안’ 업데이트를 한 번에 수행하는 것이다. 이 과정에서 확률적 그래디언트 하강(SGD)과 재파라미터화 트릭을 활용해 ELBO의 무편향 추정량을 얻으며, 변분 파라미터는 (i) 전역 파라미터 θ, (ii) 랜덤 계수 α의 평균 μ와 공분산 Σ, (iii) 테일러 전개 중심인 보조 파라미터 η 로 구성된다. η는 매 반복마다 전체 데이터를 스캔하지 않고, 미니배치 기반으로 주기적으로 갱신함으로써 연산 비용을 O(N·K)에서 O(K²) 수준으로 낮춘다.

기존 변분 방법인 데이터 증강 VI(DA‑VI)는 랜덤 계수와 전역 파라미터를 독립적으로 근사해 상호 의존성을 충분히 포착하지 못하고, 암시적 VI(A‑VI)는 신경망 기반 인코더를 학습해야 하므로 하이퍼파라미터 튜닝과 메모리 사용량이 급증한다. 반면 CVI는 가우시안 근사와 2차 테일러 전개가 결합돼 폐쇄형 업데이트를 제공하므로, 매 반복마다 고차원 라플라스 근사에 대한 수치 최적화를 수행할 필요가 없다. 이는 특히 공분산 행렬 Σ를 완전 자유 형태로 추정할 때 큰 장점으로 작용한다.

시뮬레이션에서는 n=10⁴10⁶, 랜덤 계수 차원 d=5090을 갖는 설정에서 CVI가 MCMC와 거의 동일한 평균 절대 오차(MAE)를 보이며, DA‑VI와 A‑VI보다 3~5배 빠른 수렴 속도를 기록했다. 또한, 공분산 추정 정확도에서도 CVI가 다른 변분 방법을 앞섰다.

실제 데이터 적용에서는 381개 매장의 5십만 건 파스타 구매 기록을 사용해 표준 MMNL, 중첩(Nested) MMNL, 그리고 번들(Bundle) MMNL을 추정했다. 가격·프로모션 변수에 대한 랜덤 계수의 표준편차가 매장·상품 수준에서 크게 다름을 확인했으며, 매장 규모가 클수록 가격 탄력성이 더 음수(민감)함을 발견했다. 번들 모델은 파스타와 소스의 동시 구매를 고려함으로써 예측 정확도가 2.3%p 상승했으며, 이는 고정계수 모델에서는 관찰되지 않았다.

한계점으로는 2차 테일러 전개가 로그우도 비선형성을 완전히 포착하지 못해 극단적인 선택 상황에서 근사 오차가 발생할 수 있다는 점, 그리고 η 파라미터의 업데이트 주기를 경험적으로 설정해야 한다는 점을 들었다. 향후 연구에서는 고차 전개나 자동 적응형 η 스케줄링, 그리고 비가우시안 사전(예: 스파스 라플라스)과의 결합을 탐색할 여지가 있다.

전반적으로 CVI는 대규모 혼합 로짓 모델을 실용적으로 추정할 수 있는 강력한 도구이며, 마케팅·교통·보건 등 다양한 분야에서 이질적인 선택 행동을 정밀히 분석하는 데 기여할 수 있다.