적대적 네트워크를 이용한 피벗 학습

본 논문은 연속적인 시스템 불확실성을 나타내는 교란 변수에 대해 예측 모델이 피벗(pivot) 특성을 갖도록, 적대적 신경망을 활용한 학습 프레임워크를 제안한다. 손실 함수에 적대적 항을 추가함으로써 정확도와 교란 무관성을 조절할 수 있는 하이퍼파라미터 λ을 도입하고, 이론적 최적성 및 수렴 조건을 증명한다. toy 예제와 입자 물리학 데이터에서 모델의 견고성 향상을 실증한다.

저자: Gilles Louppe, Michael Kagan, Kyle Cranmer

적대적 네트워크를 이용한 피벗 학습
본 논문은 과학 분야에서 데이터 생성 과정에 존재하는 연속적인 시스템 불확실성(교란 파라미터 Z)을 고려한 모델링 문제를 ‘피벗(pivot)’이라는 통계적 개념으로 접근한다. 피벗이란 예측 변수 f(X)가 Z와 통계적으로 독립인 경우를 의미하며, 이는 Z의 실제 값이 무엇이든 f의 분포가 변하지 않음을 보장한다. 이러한 특성은 불확실성이 큰 과학 실험에서 추론의 견고성을 크게 향상시킬 수 있다. **문제 정의** 데이터는 (X, Y, Z) 삼중으로 모델링되며, X는 관측 데이터, Y는 목표 레이블, Z는 교란 파라미터이다. 목표는 Y를 예측하는 함수 f: X→S를 학습하면서, f(X)와 Z가 독립이 되도록 하는 것이다. 수식적으로는 모든 z, z′∈Z와 모든 s∈S에 대해 p(f(X)=s|Z=z)=p(f(X)=s|Z=z′) 를 만족시키는 것이 목표이며, 이는 조건부 독립성 f⊥Z 를 의미한다. 경우에 따라 Y를 조건으로 두고 p(f(X)=s|Y=y, Z=z)=p(f(X)=s|Y=y, Z=z′) 로 정의하기도 한다. **제안 방법** 적대적 네트워크 구조를 도입한다. 예측 모델 f는 기존의 교차 엔트로피 손실 L_f(θ_f)=E

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기