차이를 통한 개념 추출 탈루즈적 표현 가설

초록

본 논문은 희소 자동인코더(SAE)의 한계를 극복하고자, 신경망 내부 활성화의 차이를 클러스터링하여 해석 가능한 개념을 추출하는 새로운 비지도 방법을 제안한다. 차이의 왜도(스큐니스)를 가중치로 활용해 다양성을 증진하고, 이를 판별분석 이론으로 정량화한다. 이미지·텍스트·오디오 3가지 모달리티와 5개 모델에 걸친 대규모 실험에서 기존 SAE 기반 방법보다 낮은 Probe Loss와 높은 일관성을 보이며, 추출된 개념을 직접 활성화 공간에서 조작함으로써 손실 없는 개념 스티어링을 입증한다.

상세 분석

이 연구는 “개념을 차이로 본다”는 탈루즈(Deleuze)의 철학적 관점을 수학적으로 구현한다는 점에서 독창적이다. 활성화 차이 벡터를 무작위 샘플링해 얻은 뒤 K‑Means 클러스터링을 적용하는데, 여기서 각 차이 벡터의 왜도 ( \tilde\mu_3 ) 를 역가중치로 사용한다. 왜도가 큰 차이는 특정 샘플에만 급격히 나타나 클러스터링을 왜곡할 위험이 있으므로, 가중된 거리
( d(\mathbf d_i,\bar C)=\frac{1}{\tilde\mu_3(\mathbf d_i)}|\bar C-\mathbf d_i|^2 )
를 정의해 다양성을 촉진한다. 이 과정은 데이터 규모 (N) 과 차원 (D) 에 대해 선형 시간·메모리 복잡도를 유지하므로 대형 모델에도 적용 가능하다.

이론적 연결 고리로는 판별분석(Fisher LDA)을 제시한다. 두 샘플 (i, j) 의 차이를 ( \mathbf c \propto \Sigma^{-1}(\boldsymbol\mu_i-\boldsymbol\mu_j) ) 로 근사하고, 고차원에서는 공분산을 대각선(등방성)으로 가정한다. 이는 차이 벡터가 최적의 구분 방향이라는 해석을 제공한다. 실제 실험에서는 등방성 가정이 충분히 성능을 보였으며, 비등방성 확장은 부록에 기술했지만 실험적 이득은 없었다.

다양성·일관성·품질을 정량화하기 위해 Probe Loss, Maximum Pairwise Pearson Correlation(MPPC) 등을 사용하였다. 874개의 속성을 포함한 5개 데이터셋·3모달리티에서 제안 방법은 대부분의 경우 SAE 변형보다 낮은 Probe Loss를 기록했으며, 특히 이미지 영역에서 감독 LDA와 근접한 수준을 달성했다. 또한 MPPC 결과는 여러 실행 간 높은 상관성을 보여 재현성이 뛰어나다는 것을 증명한다.

개념 스티어링 실험에서는 추출된 차이 벡터를 그대로 활성화에 더하는 방식( ( \tilde{\mathbf x}= \mathbf x + \alpha \mathbf c_i) )을 사용했다. 이는 기존 SAE가 필요로 하는 인코더·디코더 사이의 투사 과정을 생략해 정보 손실을 최소화한다. 텍스트와 이미지 모델에서 α 값을 조절해 특정 속성을 강화·억제했으며, 결과는 모델 출력에 직접적인 인과 효과를 나타냈다.

전체적으로 이 논문은 (1) 간단한 하이퍼파라미터 (k) 만으로 구현 가능하고, (2) 차이와 왜도를 이용해 개념의 다양성을 체계적으로 확보하며, (3) 판별분석과의 이론적 연계를 통해 해석 가능성을 강화한다는 세 가지 강점을 갖는다. 다만, 차이 샘플링이 무작위이므로 희소한 고차원 차이를 충분히 포착하려면 샘플 수 (N) 를 충분히 크게 잡아야 하는 실용적 제약이 존재한다.