베이지안 능동 학습을 통한 분류와 선호 학습
본 논문은 베이지안 정보 이론을 기반으로 한 능동 학습 프레임워크인 BALD(Bayesian Active Learning by Disagreement)를 제안한다. 정보 이득을 예측 엔트로피와 조건부 엔트로피의 차이로 표현하여, 무한 차원의 파라미터 공간을 직접 다루지 않고도 Gaussian Process Classifier(GPC)와 Preference Learning에 적용 가능한 닫힌 형태의 선택 기준을 도출한다. 기존 방법보다 근사 정도…
저자: Neil Houlsby, Ferenc Huszar, Zoubin Ghahramani
본 논문은 베이지안 정보 이론을 기반으로 한 능동 학습 방법을 제안하고, 이를 Gaussian Process Classifier(GPC)와 Preference Learning에 적용한다. 서론에서는 능동 학습의 목표를 “가능한 적은 라벨링으로 최적의 모델을 구축”하는 것으로 정의하고, 기존의 결정론적 접근과 정보 이론적 접근을 비교한다. 특히, 비모수 모델에서 파라미터 공간이 무한 차원을 갖기 때문에 기존의 파라미터 엔트로피 기반 방법은 계산적으로 비현실적이라는 점을 지적한다.
2절에서는 베이지안 정보 이론적 능동 학습의 일반적인 수식을 소개한다. 목표는 사후 엔트로피 H
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기