대형 추론 모델의 사고 길이 사전 계획 메커니즘

초록

본 논문은 대형 추론 모델(LRM)이 문제 난이도에 따라 사고 토큰 수를 사전에 예측하고, 그 예측값을 활성화 공간의 특정 방향 벡터의 크기로 인코딩한다는 사실을 밝혀낸다. 선형 프로브와 활성화 스티어링 실험을 통해 이 벡터가 사고 길이를 조절하고, 과도한 사고(overthinking) 탐지와 효율적 추론에 활용될 수 있음을 보인다.

상세 분석

이 연구는 최근 대형 언어 모델이 “사전 계획(pre‑planning)” 능력을 보인다는 가설을 LRM에 적용해, 특히 사고 길이(Reasoning Strength)라는 메타 정보를 어떻게 내부적으로 저장하고 제어하는지를 심층적으로 탐구한다. 먼저 저자들은 질문 입력 직후의 잔차 스트림(residual stream) 활성화를 추출하고, 이를 선형 회귀(Lasso) 프로브에 넣어 해당 질문이 요구하는 사고 토큰 수를 예측한다. 여러 모델(1.5B~32B)와 레이어에 걸쳐 0.8 이상의 상관계수를 기록했으며, 깊은 레이어일수록 예측 정확도가 상승한다는 점은 ‘사전 계획’ 신호가 점진적으로 형성된다는 강력한 증거다.

다음 단계에서는 “pre‑allocated direction vector”(사전 할당 방향 벡터)를 정의한다. 저자들은 난이도가 다른 질문 집합 간의 평균 활성화 차이를 계산해 네 개의 차이‑벡터(r₅←₁, r₄←₁, r₃←₁, r₂←₁)를 얻고, 이들 간의 코사인 유사도가 0.99에 육박함을 확인한다. 즉, 난이도에 따라 방향 자체는 거의 동일하고, 벡터의 L2 노름(크기)만이 난이도와 사고 토큰 수를 구분한다는 의미다.

핵심 실험은 이 벡터를 활성화에 더하거나 빼는 “activation steering”이다. 벡터를 양의 방향으로 크게 추가하면 모델은 토큰을 늦게 출력해 사고 토큰 수가 늘고, 성능이 향상된다. 반대로 벡터를 감소시키면 사고가 조기에 종료돼 토큰 수가 감소하고 정확도가 떨어진다. 이러한 인과관계는 로그잇(logit) 수준에서도 관찰되는데, 방향 벡터가 토큰의 로그잇을 직접 억제하거나 촉진함으로써 사고 종료 시점을 조절한다.

마지막으로 저자들은 두 가지 응용을 제시한다. 첫째, 선형 프로브를 이용해 과도한 사고(overthinking) 여부를 실시간으로 탐지할 수 있다. 둘째, 간단한 질문에 대해 벡터를 감소시켜 불필요한 사고를 억제함으로써 추론 비용을 절감하고 응답 속도를 높일 수 있다. 전체적으로 이 논문은 LRM이 “난이도 → 사고 길이”라는 고차원 메타 정보를 입력 단계에서 이미 내재화하고, 이를 단일 선형 방향과 크기로 압축해 제어한다는 새로운 메커니즘을 제시한다. 이는 모델 해석, 안전성 검증, 그리고 효율적인 추론 파이프라인 설계에 중요한 시사점을 제공한다.