공간 대비를 이용한 무지도 학습으로 깊은 컨볼루션 네트워크 강화

본 논문은 “Spatial Contrasting”(SC)이라는 새로운 무지도 학습 기법을 제안한다. 기존 ConvNet은 이미지 전체를 하나의 라벨에 매핑하는 지도 학습에 최적화돼 왔으며, 무지도 사전학습은 주로 재구성 손실(오토인코더, VAE)이나 생성적 적대 네트워크(GAN)와 같은 복잡한 구조에 의존했다. 이러한 방법들은 종종 별도의 아키텍처 변경이나 추가적인 손실 함수를 필요로 하여, 최신 지도 학습 모델과의 통합이 어려웠다. SC는 이러한 문제점을 해결하고자, 이미지 내부의 서로 다른 공간 영역 간의 특징 관계를 직접 학습 목표로 삼는다. 구체적으로, 하나의 이미지 x에서 두 개의 랜덤 패치 ˜x(1)와 ˜x(2)를 추출하고, ConvNet F를 통과시켜 특징 f(1)=F(˜x(1)), f(2)=F(˜x(2))를 얻는다. 동일 이미지 내 두 특징은 서로 가깝게, 다른 이미지에서 추출한 특징과는 멀게 만들도록 손실을 정의한다. 손실은 소프트맥스 형태의 로그 확률로, L_SC(x_i, x_j) = -log