다차원 단조성 제약을 갖는 베이지안 회귀 트리 mBART

본 논문은 기존 BART 모델에 단조성 제약을 추가한 mBART를 제안한다. 지정된 변수 집합에 대해 비감소(또는 비증가) 관계를 강제함으로써 추정 함수가 더 부드럽고 해석이 용이해지며, 예측 정확도와 사후 불확실성이 개선된다. 단조성 제약으로 인해 기존 BART의 조건부 공액성을 잃게 되므로, 저자들은 새로운 MCMC 알고리즘을 설계하고, 제약을 만족하는 트리 구조와 단말값에 대한 사전분포를 정의한다. 시뮬레이션 및 실제 데이터 사례를 통해 …

저자: Hugh A. Chipman, Edward I. George, Robert E. McCulloch

다차원 단조성 제약을 갖는 베이지안 회귀 트리 mBART
본 논문은 베이지안 가법 회귀 트리(BART)의 확장 모델인 mBART(Multidimensional Monotone BART)를 제안한다. 기존 BART는 트리들의 합으로 회귀 함수를 비모수적으로 추정하며, 높은 차원의 변수와 복잡한 상호작용을 자동으로 포착한다. 그러나 실제 응용 분야에서는 특정 변수에 대해 “나이가 많을수록, 혹은 복용량이 클수록 결과가 감소한다”와 같은 단조성(monotonicity) 가정이 도메인 지식으로 존재한다. 이러한 사전 정보를 모델에 직접 반영하면 추정이 더 안정되고 해석이 용이해진다. mBART는 이러한 요구를 충족시키기 위해 두 가지 핵심 아이디어를 도입한다. 첫째, 각 트리 T 와 그에 대응하는 단말값 집합 M 에 대해 단조성 제약을 정의한다. 입력 공간을 트리의 분할 규칙에 따라 직사각형 영역 R_k (단말노드)으로 나누고, 각 영역의 상하 이웃 관계를 기반으로 “위쪽 이웃보다 작거나 같고, 아래쪽 이웃보다 크거나 같아야 한다”는 제약을 부과한다. 이 제약은 변수 x_i 가 지정된 집합 S 에 포함될 경우에만 적용되며, 다변량 상황에서도 각 차원별로 독립적으로 정의될 수 있다. 이러한 로컬 제약을 모든 트리 g(x;T_j,M_j) 에 적용하면, 전체 합 f(x)=∑_{j=1}^m g(x;T_j,M_j) 도 자동으로 S 에 대해 전역적인 단조성을 만족한다. 둘째, 단조성 제약으로 인해 기존 BART가 활용하던 조건부 공액성(conjugacy)이 사라진다. 원래 BART에서는 트리 구조 T 와 단말값 μ 에 대해 Gibbs 샘플링이 가능했지만, 제약이 도입되면 μ 의 사후분포가 복잡한 제한 영역에 놓이게 된다. 이를 해결하기 위해 저자들은 새로운 MCMC 알고리즘을 설계한다. 핵심은 “단일 노드 업데이트” 전략이다. 매 반복마다 하나의 단말노드 μ_{ij} 만을 선택하고, 현재 트리 구조와 다른 μ 들을 고정한 채, 제약을 만족하는 구간

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기