재귀 인공지능의 의미 터널링과 매니폴드 전개

초록

본 논문은 재귀적으로 생성된 텍스트 데이터를 학습한 대형 언어 모델이 퍼플렉시티(PPL) 지표는 양호하지만 의미 다양성이 급격히 감소해 ‘Robert Boulton’이라는 단일 서사에 수렴하는 현상을 ‘Semantic Tunneling’이라 명명한다. 이를 정량화하기 위해 전역 유효 랭크(Global Effective Rank)를 도입하고, MNCIS(다중 스케일 부정 결합 정보 시스템)와 ASNC(Adaptive Spectral Negative Coupling) 기법을 적용해 매니폴드 차원을 회복하고 다양성을 유지하는 방법을 제시한다. 실험 결과는 MNCIS 적용 모델이 랭크와 다양성에서 크게 개선됨을 보여준다.

상세 분석

이 논문은 현재 대형 언어 모델(LM) 평가에서 흔히 사용되는 퍼플렉시티(PPL) 지표가 의미적 다양성을 충분히 반영하지 못한다는 점을 강조한다. 저자들은 L=128이라는 고정 컨텍스트 길이 하에서 슬라이딩 윈도우 방식(N=1500)으로 퍼플렉시티를 측정하고, 동시에 ‘전역 유효 랭크(Global Effective Rank)’라는 새로운 지표를 도입해 잠재 공간의 차원 수를 정량화한다. 실험 결과, 베이스라인 모델은 초기 퍼플렉시티가 83.9에 머무르지만 7세대 이후 유효 랭크가 3.62에서 2.22로 급감하며, 생성 텍스트가 ‘Robert Boulton’이라는 동일한 서사로 수렴한다는 ‘Semantic Tunneling’ 현상을 관찰한다. 이는 모델이 통계적으로 안전한 문법 템플릿에만 집중하고, 실제 세계 지식과 긴 꼬리 분포를 버리는 현상으로 해석된다.

이를 해결하기 위해 논문은 최근 Hou(2026)의 MNCIS 프레임워크를 차용한다. MNCIS는 다중 스케일에서 부정 결합(Negative Coupling) 정보를 적용해 잠재 매니폴드의 ‘곡률’을 낮추고, ASNC(Adaptive Spectral Negative Coupling)라는 토폴로지 연산자를 통해 잠재 공간을 ‘전개(Manifold Unfolding)’한다. 구체적으로, 모델의 마지막 몇 개 레이어에 대해 Gram 행렬을 정규화하고, 목표는 단위 행렬과의 MSE 손실을 최소화하는 것이다. 이 과정에서 ASNC 강도(asnc_strength)를 0.5로 설정해 과도한 정규화에 의한 ‘shattering’ 현상을 방지한다.

실험 파이프라인은 다음과 같다. (1) 실제 WikiText‑2 데이터를 로드해 슬라이딩 윈도우 퍼플렉시티와 유효 랭크를 측정한다. (2) 베이스라인 모델과 MNCIS 적용 모델을 각각 15세대에 걸쳐 재학습하고, 매 세대마다 실제 데이터에 대한 퍼플렉시티와 유효 랭크를 기록한다. (3) 각 세대마다 모델이 생성한 합성 데이터를 다음 세대 학습에 사용한다. 결과는 그래프로 시각화되며, 베이스라인은 유효 랭크가 2.2 수준에 머무는 반면 MNCIS 모델은 5.35까지 회복한다. 퍼플렉시티는 로그 스케일에서 두 모델 모두 큰 차이를 보이지 않지만, 유효 랭크 차이가 의미적 다양성 차이를 잘 드러낸다.

논문은 또한 ‘Manifold Unfolding’이라는 개념을 도입해, 잠재 공간의 차원을 인위적으로 늘리는 것이 단순히 파라미터 수를 늘리는 것이 아니라 토폴로지 구조 자체를 변형하는 것임을 주장한다. 이는 기존의 L2 정규화, 드롭아웃 등 전통적 정규화 기법과는 다른 접근이다.

하지만 몇 가지 한계와 의문점도 존재한다. 첫째, ‘전역 유효 랭크’는 정의가 모호하고, 실제로는 히든 상태의 공분산 행렬에 대한 특이값 분해를 기반으로 계산한다. 이는 데이터 샘플링 편향과 배치 크기에 크게 영향을 받을 수 있다. 둘째, 실험에 사용된 슬라이딩 윈도우 퍼플렉시티는 50k 토큰만을 대상으로 하여 전체 데이터 분포를 충분히 반영하지 못한다. 셋째, ‘Robert Boulton’이라는 특정 서사가 왜 등장했는지에 대한 언어학적·문화적 분석이 부족하다. 이는 모델이 특정 토큰 시퀀스에 과도하게 편향된 결과일 가능성이 있다. 넷째, MNCIS와 ASNC의 수학적 근거가 Hou(2026) 논문에 의존하고 있으나, 해당 논문 자체가 아직 검증되지 않은 사전 인쇄(preprint) 단계이며, 실제 구현 코드에서도 복잡한 하이퍼파라미터 튜닝이 필요함을 보여준다. 마지막으로, 실험 환경이 GPU 한 대에서 15세대 학습을 수행했음에도 불구하고 재현성(reproducibility)에 대한 상세한 설정(시드, 데이터 전처리, 옵티마이저 파라미터 등)이 부족해 다른 연구자가 동일한 결과를 얻기 어렵다.

종합하면, 이 논문은 의미적 다양성 붕괴라는 중요한 현상을 포착하고, 새로운 토폴로지 기반 정규화 기법을 제안함으로써 AI 안전 연구에 새로운 시각을 제공한다. 그러나 제안된 메트릭과 방법론의 검증이 충분히 이루어지지 않았으며, 실험 설계와 결과 해석에 있어 보다 엄밀한 통계적 검증이 필요하다. 향후 연구에서는 다양한 모델 규모, 데이터 도메인, 그리고 다른 토폴로지 변환 기법을 적용해 ‘Semantic Tunneling’ 현상의 일반성을 탐색하고, MNCIS/ASNC가 실제 배포 환경에서 어떻게 적용될 수 있는지 실용성을 검증해야 할 것이다.