언어 모델의 선형 표현 가설: 뉴런 하나에 몇 개의 특징을 저장할 수 있을까

초록

이 논문은 언어 모델의 중간층이 특징을 선형으로 저장한다는 “선형 표현 가설(LRH)”을 수학적으로 정형화하고, 선형 표현과 선형 접근성 두 가지 조건을 동시에 만족하도록 하기 위해 필요한 뉴런 수 (d)와 저장 가능한 특징 수 (m) 사이의 관계를 분석한다. 고전 압축 센싱 결과는 비선형 복구 알고리즘을 허용할 때 (d = O(k\log(m/k))) 이면 충분함을 보여주지만, 복구를 선형 프로브에 제한하면 (d = Θ(k^{2}\log m)) 가 필요함을 증명한다. 이는 선형 접근성이 단순히 선형 표현보다 훨씬 강력한 제약임을 의미한다. 또한, 무작위 직교 행렬을 이용한 상한 증명과 근접 항등 행렬의 랭크 하한, Turán 정리를 활용한 하한 증명을 제공한다. 결과는 뉴런 (d) 개가 지수적으로 많은 특징을 저장할 수 있음을 뒷받침하면서도, 실제 선형 복구를 위해서는 (k^{2}) 배 정도의 차원이 필요함을 보여준다.

상세 분석

논문은 먼저 LRH를 “선형 표현”(특징이 뉴런 활성화의 선형 결합으로 나타남)과 “선형 접근성”(특징을 선형 프로브로 복원 가능)이라는 두 개념으로 분리한다. 수학적 프레임워크에서는 입력 텍스트 (\ell) 에 대해 특징 벡터 (z(\ell)\in\mathbb{R}^{m}) 와 활성화 함수 (f(\ell)=Az(\ell)) 를 정의하고, 복구 함수 (g) 또는 선형 프로브 (B) 가 존재해 (|g(Az)-z|{\infty}<\epsilon) 혹은 (|B^{\top}Az - z|{\infty}<\epsilon) 를 만족하도록 한다. 여기서 (k)‑sparse (z) 는 한 텍스트에 동시 활성화되는 특징 수가 적다는 가정을 의미한다.

전통적인 압축 센싱(Theorem 1)은 비선형 (\ell_{1}) 복구를 허용하면 (d = O(k\log(m/k))) 이면 충분함을 보여준다. 그러나 선형 복구를 강제하면 문제는 “선형 압축 센싱”으로 변한다. 저자는 이 경우의 최적 차원 (d(m,k,\epsilon)) 에 대해 상한(Theorem 2)과 하한(Theorem 3)을 제시한다. 상한은 무작위 가우시안 행렬을 이용해 열이 거의 직교하도록 구성하면, 각 열 간 내적이 (\epsilon/k) 이하가 되므로 (k)‑sparse (z) 에 대해 간섭이 (k\cdot(\epsilon/k)=\epsilon) 로 제한된다. 따라서 (d = O_{\epsilon}(k^{2}\log m)) 이면 선형 프로브로 모든 (m) 특징을 복원할 수 있다.

하한은 Alon(2003)의 근접 항등 행렬에 대한 랭크 하한과 Turán 정리를 결합한다. 작은 차원 (d) 에서는 열 벡터 집합이 충분히 다양하지 못해, 어느 한 열과 (k) 개의 다른 열 사이에 큰 내적이 발생하게 된다. 이때 (B^{\top}A) 의 비대각 원소가 크게 되면 (|B^{\top}Az - z|{\infty}) 가 (\epsilon) 이하가 되지 못한다. 이를 정량화하면 (d = \Omega{\epsilon}!\bigl(\frac{k^{2}}{\log k}\log(m/k)\bigr)) 가 필요함을 보인다. 즉, 선형 복구를 위해서는 차원이 (k^{2}) 정도는 반드시 필요하고, 이는 고전 압축 센싱의 (k) 선형과 근본적인 차이를 만든다.

추가적으로 논문은 특징 벡터와 프로브 벡터 사이의 기하학적 관계를 탐구한다. Proposition 9는 비직교적인 특징 표현이 존재하면서도 프로브 벡터는 거의 직교하도록 설계할 수 있음을 보여준다. 이는 “표현은 서로 직교한다”는 직관과는 달리, 실제로는 프로브와 표현 사이의 내적만이 작아야 함을 의미한다. Proposition 11은 특징 벡터의 크기가 제한될 때 가능한 비정상적(Highly correlated) 구조가 얼마나 제한되는지를 정량화한다. 마지막으로 Theorem 12는 이 하한이 이진 특징과 선형 분류 설정에도 그대로 적용된다는 것을 증명한다. 따라서 비선형 활성화 함수나 바이어스를 추가해도 선형 복구 가능한 특징 수는 크게 늘어나지 않는다.

전체적으로 이 연구는 LRH를 두 단계로 명확히 구분하고, 선형 접근성을 요구할 때 발생하는 차원적 비용을 정확히 정량화한다. 이는 “슈퍼포지션 가설”이 이론적으로 가능함을 뒷받침하면서도, 실제 모델 설계 시 (k^{2}) 배 정도의 차원을 확보해야 한다는 실용적 가이드를 제공한다.