아날로지 구조와 최소 맥락, 대조적 방해요소를 활용한 샘플 효율적 언어 규칙 학습

초록

본 논문은 아날로그 구조, 최소 맥락 단서, 대조적 방해요소라는 세 가지 인지‑영감 입력 설계 원리를 적용해 영어 동사 교환 현상을 학습한다. 100~1 000개의 구조화된 문장 완성 예시만으로 0.5 M 파라미터 경량 모델이 F1 0.95를 달성했으며, 무조정·소수 샷 LLM보다 적은 데이터로 높은 성능을 보였다. 실험적 소거 분석을 통해 아날로그 조직이 샘플 효율성의 핵심임을 확인하고, 최소 맥락과 대조적 방해요소가 보조적 이득을 제공한다는 점을 제시한다.

상세 분석

이 연구는 대규모 언어 모델(LLM)이 학습 과정에서 입력 특성이 어떻게 규칙 학습에 기여하는지를 투명하게 파악하고자, 인지 과학에서 차용한 세 가지 원리를 데이터 수준에서 구현한다. 첫 번째 원리인 ‘아날로그 구조(Analogical Structure)’는 두 개의 평행 패러다임(A↔B)을 통해 에이전트‑테마 관계를 명시적으로 매핑한다. 예를 들어 “Man:Dice :: Explorer:Mat”와 같은 관계를 문맥에 삽입함으로써 모델이 표면 형태가 아니라 관계적 패턴을 추출하도록 유도한다. 두 번째 원리인 ‘최소 맥락 단서(Minimal Contextual Cues)’는 명시적 라벨링 없이도 의미적 역할을 암시하는 부가적인 어휘(예: “did it”, “was on the floor”)를 제공한다. 이는 모델이 문법적 구조와 의미 역할을 동시에 고려하도록 돕는다. 세 번째 원리인 ‘대조적 방해요소(Contrastive Distractors)’는 정답 외에 여섯 개의 체계적 오류 유형(역할 오류, 구조 오류, 패러다임 오류 등)을 삽입해, 올바른 규칙과 잘못된 규칙을 명확히 구분하도록 학습한다. 이러한 설계는 ‘긍정‑부정’ 비교를 통한 차별 학습을 촉진한다는 기존 연구와 일맥상통한다.

데이터는 Blackbird Language Matrices를 기반으로 템플릿을 정의하고, 전문가가 선정한 시드 문장을 통해 자동으로 대규모(수천 개) 파라다임을 생성한다. 각 파라다임은 2×4 구조를 가지며, ‘Type I’(동일 동사 사용)와 ‘Type II’(다른 동사 사용) 두 가지 변형을 제공해 아날로그 추상화 능력을 검증한다. 또한 ‘bake‑class’ 동사(unspecified object alternation)를 활용한 교차 현상 검증을 수행해 일반화 가능성을 탐색한다.

실험에서는 BERT‑base 임베딩 위에 CNN 또는 FFNN 헤드를 얹은 경량 모델(≈0.5 M 파라미터)을 102 700개의 학습 샘플로 훈련한다. 결과는 아날로그 조직이 없는 ‘Shuffled’ 조건에 비해 F1 점수가 크게 상승함을 보여준다(F1 0.95 vs 0.78). ‘No Analogy’, ‘No Soft Cue’, ‘Transposed’ 등 소거 실험에서도 아날로그 구조가 가장 큰 성능 기여 요인임이 확인되었다. 반면 최소 맥락과 대조적 방해요소는 각각 약 0.020.04의 추가 이득을 제공한다.

LLM 비교에서는 GPT‑3, DeepSeek‑R1 등 8종 모델을 zero‑shot 및 few‑shot(1,5‑shot) 프롬프트로 평가했으며, 가장 좋은 zero‑shot 결과는 F1 0.87에 머물렀다. 경량 모델은 100~1 000개의 전용 데이터만으로도 LLM보다 높은 정확도를 달성했으며, 이는 학습 방식(파라미터 업데이트 vs. 프롬프트) 차이와 입력 조직의 효율성을 동시에 반영한다.

이 논문은 (1) 입력 데이터를 구조화함으로써 작은 모델도 복잡한 언어 규칙을 효율적으로 학습할 수 있음을, (2) 아날로그 구조가 샘플 효율성의 핵심 동인임을, (3) 대조적 방해요소와 최소 맥락이 보조적 역할을 수행한다는 점을 실증한다. 또한 LLM과 경량 모델의 학습 서명 차이를 제시함으로써, 대규모 사전학습 모델이 반드시 데이터 효율성을 보장하지 않음을 시사한다.