예측과 해석의 공존을 위한 베이지안 딥러닝 기반 이산 선택 모델링

초록

본 논문은 딥러닝의 강력한 예측 성능과 전통적인 이산 선택 모델(DCM)의 경제학적 해석력을 결합한 새로운 베이지안 딥러닝 프레임워크를 제안합니다. SGLD(Stochastic Gradient Langevin Dynamics)를 활용하여 모델 파라미터의 불확실성을 정량화함으로써, 데이터가 부족할 때는 경제 이론에 기반한 안정적인 추론을 수행하고, 데이터가 충분할 때는 복잡한 비선형 관계를 포착하는 유연한 구조를 구현했습니다.

상세 분석

본 연구의 기술적 핵심은 딥러닝의 블랙박스 문제를 해결하기 위해 ‘근사 베이지안 추론(Approximate Bayesian Inference)‘을 이산 선택 모델의 구조적 설계에 성공적으로 이식했다는 점에 있습니다. 기존의 딥러닝 모델이 단일 점 추정(Point Estimation)에 의존하여 파라미터의 변동성을 설명하지 못하는 한계를 극복하기 위해, 저자들은 SGLD(Stochastic Gradient Langevin Dynamics)를 도입했습니다. SGLD는 SGD(Stochastic Gradient Descent) 과정에 적절한 가우시안 노이즈를 주입함으로써 마르코프 체인 몬테카를로(MCMC) 샘플링 효과를 유도하며, 이를 통해 모델 파라미터의 전체 사후 분포(Posterior Distribution)를 근사할 수 있게 합니다.

모델 아키텍처 측면에서는 1D 합성곱(Convolutional) 계층과 완전 연결(Fully Connected) 계층을 결합하여, 대안별 속성(Alternative-specific attributes)과 개인별 특성(Individual-specific characteristics)을 명시적으로 분리하여 처리합니다. 이러한 구조적 설계는 전통적인 다항 로짓 모델(Multinomial Logit Model)의 논리적 구조를 계승하여, 딥러닝 모델임에도 불구하고 경제학적 변수의 영향력을 해석할 수 있는 토대를 제공합니다. 특히 베이지안 사전 분포(Prior)의 활용은 모델의 정규화(Regularization) 역할을 수행합니다. 데이터가 희소한 환경에서는 사전 지식이 모델을 경제학적 가설로 수렴하게 하여 과적합(Overfitting)을 방지하고, 데이터가 풍부해지면 데이터의 패턴을 따라 복잡한 비선형성을 학습하도록 유도하는 ‘자동 조정 메커니즘’을 구현했습니다. 결과적으로, 이 모델은 단순한 예측 정확도(Balanced Accuracy)를 넘어, 한계대체율(MRS)과 같은 핵심 경제 지표의 신뢰 구간(Interval Estimate)에 대한 경험적 커버리지(Empirical Coverage)를 확보함으로써 통계적 엄격성을 확보했습니다.

경제학 및 교통 공학 분야에서 이산 선택 모델(Discrete Choice Models, DCMs)은 개인의 의사결정 과정을 분석하고 한계대체율(MRS)과 같은 핵심 경제 지표를 추론하는 데 필수적인 도구입니다. 전통적인 DCM은 높은 해석력과 통계적 신뢰성을 제공하지만, 복잡한 비선급 관계를 포착하는 데 한계가 있어 최근의 딥러닝(DL) 모델에 비해 예측 성능이 낮다는 단점이 있습니다. 반면, 딥러닝 모델은 탁월한 예측력을 자랑하지만, 모델의 불투명성(Black-box), 파라미터 추정의 불안정성, 그리고 불확실성 정량화 방법의 부재로 인해 경제적 추론 도구로 활용하기에는 한계가 있었습니다.

본 논문은 이러한 ‘예측력’과 ‘해석력’ 사이의 간극을 메우기 위해 베이지안 딥러닝 프레임워크를 제안합니다. 연구의 핵심 기여는 세 가지 주요 난제를 동시에 해결했다는 점입니다. 첫째, 1D CNN과 완전 연결 계층을 활용한 특화된 아키텍처를 통해 대안별 속성과 개인별 특성을 분리함으로써 모델의 해석 가능성을 확보했습니다. 둘째, SGLD(Stochastic Gradient Langevin Dynamics)를 통한 근사 베이지안 추론을 도입하여 파라미터의 사후 분포를 추정함으로써 추정값의 불안정성 문제를 해결했습니다. 셋째, 이를 통해 파라미터의 불확실성을 정량화하여 경제적 지표에 대한 신뢰 구간을 생성할 수 있는 기반을 마련했습니다.

제안된 모델의 강점은 데이터 규모에 따른 유연한 대응 능력에 있습니다. 데이터가 제한적인 상황에서는 베이지안 사전 분포가 모델을 경제학적 이론에 기반한 안정적인 상태로 유지시켜 과적화(Overfitting)를 방지하며, 데이터가 충분히 확보된 상황에서는 딥러닝의 유연성을 극대화하여 복잡한 비선형 패턴을 학습합니다.

연구의 검증은 다각도로 이루어졌습니다. 먼저 몬테카를로 시뮬레이션을 통해, 제안된 모델이 단순한 예측 정확도(Balanced Accuracy)뿐만 아니라, 추론의 핵심인 ‘한계대체율 구간 추정의 경험적 커버리지’ 측면에서도 목표 신뢰 수준을 충족함을 입증했습니다. 이어지는 실증 분석에서는 뉴욕(NYC)의 교통 수단 선택 데이터와 스위스의 열차 선호도 데이터를 활용했습니다. 실험 결과, 제안된 모델은 기존의 전통적 DCM과 유사한 수준의 경제적 통찰(예: 시간의 가치 추정)을 제공하면서도, 예측 성능 면에서는 기존 모델을 상회하는 결과를 보여주었습니다.

결론적으로, 본 연구는 딥러닝을 단순한 예측 도구를 넘어, 통계적 엄격성과 경제학적 해석력을 갖춘 ‘신뢰할 수 있는 추론 도구’로 격상시켰습니다. 이는 불확실성 정량화가 필수적인 정책 결정 및 경제 분석 분야에서 딥러닝의 활용 범위를 획기적으로 넓힐 수 있는 중요한 이정표가 될 것입니다.