개념 병목 모델에 진짜 병목은 없었다

초록

본 논문은 기존 개념 병목 모델(CBM)이 실제로는 개념 정보만을 제한적으로 보존하지 못하고, 입력의 잡음(nuisance) 정보를 함께 인코딩한다는 문제점을 지적한다. 이를 해결하기 위해 정보 병목(Information Bottleneck) 원리를 도입한 최소 개념 병목 모델(MCBM)을 제안한다. MCBM은 각 잠재 변수 z_j 가 해당 개념 c_j 에 대한 최소 충분 통계가 되도록 변분 KL 정규화를 추가함으로써, 개념‑특정 정보만을 보존하고 나머지는 배제한다. 실험을 통해 MCBM이 해석 가능성, 개념 수준 개입(intervention) 정확도, 그리고 예측 성능 면에서 기존 CBM 및 기타 변형보다 우수함을 입증한다.

상세 분석

논문은 먼저 기존 CBM이 “충분 통계(sufficient statistic)”만을 목표로 하여 z_j 가 c_j 를 완전히 복원하도록 학습하지만, z_j 가 x 전체 정보를 포함할 여지를 남긴다는 점을 지적한다. 이는 정보 누수(information leakage) 현상으로, z_j 에 개념과 무관한 잡음 n 이 섞여 해석 가능성을 저해하고, 개념 개입 시 의도치 않은 변화를 초래한다. 저자들은 이를 정량화하기 위해 I(Z_j;X|C_j)=0 이라는 마코프 체인 조건을 도입하고, 이를 최소화하는 목표식 min E