잠금 모델에서도 가능한 테스트‑시점 적응: 잠재 분포 기울이기로 구현한 파라미터‑프리 적응

초록

본 논문은 파라미터가 전혀 업데이트되지 않는 고정된 인코더와 분류기를 그대로 두고, 소수의 라벨된 지원 샘플만을 이용해 잠재 공간의 확률 분포를 지수 기울이기(Exponential Tilting) 방식으로 재가중한다. KL‑다이버전스 최소화를 목표로 한 이 변화는 라벨‑인식 점수와 기하‑인식 점수를 결합해 정의되며, 재가중된 분포 위에서 기존 분류기의 출력 기대값을 계산해 최종 예측을 만든다. 실험 결과, 이미지·도메인 전이 few‑shot 설정에서 파라미터 업데이트 기반 방법들과 동등하거나 우수한 성능을 보이며, 완전 고정 모델이라는 가장 강력한 제약 하에서도 효과적인 테스트‑시점 적응이 가능함을 입증한다.

상세 분석

이 연구는 “테스트‑시점 적응(Test‑Time Adaptation, TTA)”을 기존의 파라미터 업데이트 방식에서 완전히 탈피하여, 모델 자체는 전혀 변하지 않지만 잠재 표현(latent representation)의 확률 측면을 조정함으로써 적응을 달성한다는 점에서 혁신적이다. 핵심 아이디어는 고정된 인코더 f와 고정된 분류기 p₀(y|z)가 정의하는 잠재 분포 P₀(z)를, 소수의 라벨된 지원 집합 D_few 에서 추출한 점수 s(z) 를 이용해 KL‑다이버전스 최소화 제약 하에 새로운 측도 P★(z) 로 변환하는 것이다. 이는 변분 최적화 문제
\