RAPTOR 능동형 로지스틱 탐지기

초록

RAPTOR는 LLM 내부 표현을 분석하고 조작하기 위해 ℓ₂ 정규화 로지스틱 회귀 기반의 경량 탐지기를 제안한다. 검증 데이터로 최적의 리지 강도 λ를 선택하고, 정규화된 가중치를 개념 벡터로 사용한다. 실험에서 정확도·방향 안정성·학습 비용 세 축을 모두 만족하며, 고차원 가우시안 교사‑학생 모델을 통한 이론적 분석으로 λ가 정확도와 안정성에 미치는 영향을 설명한다.

상세 분석

본 논문은 대형 언어 모델(LLM)의 레이어 표현에 내재된 개념을 추출하고, 이를 직접적인 활성화 스티어링에 활용하는 ‘probe‑then‑steer’ 파이프라인을 중심으로 한다. 기존 연구에서는 탐지기의 정확도만을 강조했지만, 실제 스티어링에서는 (i) 정확도, (ii) 방향 안정성, (iii) 계산 효율성이라는 세 가지 요구사항이 동시에 충족돼야 한다는 점을 명확히 제시한다. RAPTOR는 이러한 요구를 만족시키기 위해 ℓ₂‑정규화 로지스틱 회귀를 선택하고, 검증 셋을 이용해 리지 파라미터 λ를 자동 튜닝한다. 정규화된 가중치 ˆω를 원래 임베딩 스페이스에 복원한 뒤 정규화하여 개념 벡터 vℓ 로 사용한다.

핵심 기술적 기여는 다음과 같다. 첫째, 고차원·소샘플 상황에서 로지스틱 회귀는 데이터가 선형적으로 구분 가능할 경우 무한히 가중치가 커지는 문제를 갖는다. ℓ₂ 정규화는 해의 존재와 유일성을 보장함과 동시에 최적화 안정성을 크게 향상시킨다. 둘째, λ를 검증 정확도 기준으로 선택함으로써 ‘하이퍼파라미터 하나만 조정하면 된다’는 단순성을 유지한다. 이는 대규모 모델·다중 레이어·다중 개념에 대해 탐지를 반복 수행해야 하는 실제 워크플로우에서 비용을 크게 절감한다. 셋째, 논문은 CGMT(Convex Gaussian Min‑max Theorem)를 활용해 고차원 비례극한(n,p→∞, n/p→δ)에서 리지 로지스틱 회귀의 정확도와 가중치 방향의 변동성을 명시적 식으로 도출한다. 이 이론적 결과는 λ가 클수록 과적합을 억제해 방향이 안정화되지만, 동시에 분류 경계가 완만해져 정확도가 감소한다는 트레이드오프를 정량화한다.

실험에서는 Qwen, Llama, Gemma 등 다양한 instruction‑tuned 모델과 6개의 인간 라벨링 개념 데이터셋을 사용해 광범위한 벤치마크를 수행한다. 표 1의 결과는 RAPTOR가 기존의 GCS(Gradient‑based Concept Subspace)와 xRFM(Random‑Feature‑Model) 대비 최고 레이어 정확도에서 동등하거나 약간 우수함을 보여준다. 특히, 동일한 정확도를 유지하면서도 방향 안정성 지표(예: 코사인 유사도 평균)와 학습 시간(≈1/3~1/2)에서 현저히 개선되었다. 정성적 스티어링 사례에서도 RAPTOR 기반 벡터를 삽입했을 때 목표 개념(예: 혐오 표현 억제, 풍자 감지)의 활성화가 일관되게 변하고, 불필요한 부작용이 최소화되는 것을 확인했다.

이론‑실험 일치를 검증하기 위해, 논문은 가우시안 교사‑학생 모델에서 λ에 따른 테스트 오류와 가중치 코사인 변동성을 시뮬레이션하고, 실제 LLM 임베딩에 적용한 결과와 비교한다. 두 경우 모두 λ가 증가함에 따라 정확도는 초기에는 상승 후 포화, 이후 감소하고, 방향 변동성은 단조 감소하는 패턴을 보이며, 이는 CGMT 기반 예측과 정량적으로 일치한다.

결과적으로 RAPTOR는 (1) 단일 하이퍼파라미터 λ만으로 정확도·안정성·비용을 동시에 최적화하고, (2) 고차원 통계 이론을 통해 λ 선택의 메커니즘을 설명함으로써, 탐지‑스티어링 파이프라인에 실용적이면서도 이론적으로 견고한 솔루션을 제공한다는 점에서 의미가 크다. 향후 연구에서는 다중 개념 서브스페이스 확장, 비선형 탐지기와의 혼합, 그리고 실제 사용자 피드백을 통한 동적 λ 조정 메커니즘을 탐색할 여지가 있다.