행동학습을 통한 계층적 최적화 구조 학습

본 논문은 “Behavior Learning (BL)”이라는 새로운 머신러닝 프레임워크를 제안한다. BL은 행동 과학에서 인간·사회 현상을 설명하는 기본 가정인 ‘효용 극대화(Utility Maximization Problem, UMP)’를 모델링 단위로 삼아, 데이터로부터 해석 가능하고 식별 가능한 최적화 구조를 자동으로 학습한다. 첫 번째 핵심 아이디어는 ‘모듈형 블록(Block)’이다. 각 블록은 효용 함수 Uθ(x,y), 부등식 제약 Cθ(x,y), 등식 제약 Tθ(x,y) 를 각각 다항식 혹은 선형 변환 형태로 매핑하고, 이를 tanh, ReLU, 절대값 함수를 통해 페널티화한다. 구체적으로 B(x,y;θ)=λ0·tanh(pu(x,y))−λ1·ReLU(pc(x,y))−λ2·|pt(x,y)| 로 정의된다. 여기서 λ0, λ1, λ2 는 학습 가능한 가중치이며, pu, pc, pt 는 다항식 피처 맵이다. 이 구조는 Han‑Mangasarian의 로컬 정확 페널티 정리를 활용해 제약을 무차별적으로 풀어내면서도, 효용과 제약을 명시적으로 구분한다. BL은 이러한 블록을 순차적으로 연결해 전체 유틸리티 함수 BL(x,y)를 만든다. 연결 방식에 따라 세 가지 아키텍처가 존재한다. (i) BL(Single)은 단일 블록만 사용해 가장 직관적인 UMP 형태를 제공한다. (ii) BL(Shallow)은 1~2개의 중간 레이어를 두어 블록을 병렬·다중으로 배치하고, 최종 출력에 선형 변환을 적용한다. (iii) BL(Deep)은 L>2 레이어를 허용해 깊은 계층적 구조를 만든다. 모든 경우에 BL(x,y)는 조건부 Gibbs 분포 pτ(y|x)=exp(BL(x,y)/τ)/Zτ 로 매핑되며, 온도 τ 가 낮을수록 최적 해에 집중한다. 식별성(identifiability)을 확보하기 위해 제안된 변형이 IBL(Identifiable BL)이다. IBL은 블록 내부 함수 ϕ, ρ, ψ 를 매끄럽고 단조롭게 제한함으로써 파라미터가 하나의 최적화 구조에만 대응하도록 보장한다. 논문은 IBL에 대해 M‑추정 이론을 전개한다. 구체적으로 일관성, 보편 일관성, 점근적 정규성, 점근적 효율성을 증명하고, 식별성 조건 하에서 파라미터 추정이 유일함을 수학적으로 입증한다. 이론적 측면에서는 두 가지 주요 정리를 제시한다. 첫 번째는 “모든 최적화 문제는 UMP 로 변환 가능”한다는 정리(Theorem 2.2)로, 이는 BL이 어떤 도메인에도 적용될 수 있음을 의미한다. 두 번째는 “BL은 보편 근사 능력을 갖는다”는 정리(Theorem 2.3)로, 충분히 깊고 넓은 블록 구성을 통해 임의의 연속 조건부 밀도 p⋆(y|x)를 KL‑거리 ε 이하로 근사할 수 있음을 보인다. 실험에서는 네 가지 과제를 수행한다. (1) 표준 회귀·분류 벤치마크에서 BL은 딥러닝 기반 모델과 동등하거나 더 나은 정확도를 기록한다. (2) 고차원 입력(수천 차원)에서도 BL(Deep)은 학습 안정성과 예측 성능을 유지한다. (3) 블록을 심볼릭 UMP 형태로 추출해 인간 전문가가 직접 검증할 수 있는 해석 사례를 제시한다. (4) 시각화 도구를 이용해 입력 변수와 각 블록 사이의 영향 경로를 그래프로 나타내어, “왜 이런 예측이 나왔는가”에 대한 직관적 설명을 제공한다. BL의 장점은 다음과 같다. 첫째, 보편적인 함수 근사 능력으로 복잡한 비선형 관계를 포착한다. 둘째, 블록 수준에서 효용·제약을 명시적으로 표현함으로써 선형 회귀 수준의 투명성을 유지한다. 셋째, IBL을 통해 파라미터가 유일하게 결정되므로 과학적 가설 검증에 적합한 식별성을 제공한다. 넷째, “모든 최적화 문제는 UMP 로 변환 가능”한다는 이론적 기반 덕분에, 경제학(거시경제 최적화), 물리학(통계역학 Gibbs 분포), 진화생물학(적합도 최적화) 등 다양한 분야에 바로 적용할 수 있다. 결론적으로, 본 논문은 행동 과학의 핵심 모델링 패러다임을 현대 머신러닝에 통합함으로써, 예측 성능과 해석 가능성, 식별성을 동시에 만족하는 새로운 방법론을 제시한다. 향후 연구에서는 블록의 함수 형태를 더욱 풍부하게 확장하고, 도메인‑특화 제약을 자동으로 추출하는 메커니즘을 개발함으로써 BL의 적용 범위를 넓히는 것이 기대된다.