작업 추상화 기반 자기 교정 프레임워크

초록

SELF‑THOUGHT는 초기 답변을 만든 뒤 문제를 구조화된 템플릿으로 추상화하고, 그 템플릿을 이용해 해결 과정을 재구성하는 두 단계 자기 교정 방식을 제안한다. 큰 모델이 만든 템플릿을 작은 모델에 재사용함으로써 모델 규모에 관계없이 성능 향상을 달성한다. 실험 결과, 다양한 수학·논리·게임 과제에서 기존 출력 비판 방식보다 정확도·견고성·일반화 능력이 크게 개선되었다.

상세 분석

SELF‑THOUGHT는 기존 LLM 자기 교정 연구가 “출력 비판 → 수정”이라는 일차원 흐름에 머물렀던 한계를 극복한다. 핵심 아이디어는 작업 추상화(Task Abstraction) 단계에서 입력 x와 초기 답변 ŷ₀을 분석해 변수, 제약조건, 문제 유형 등을 구조화된 템플릿 d 로 변환하는 것이다. 이 템플릿은 이후 해결 인스턴스화(Solution Instantiation) 단계에서 모델이 구체적인 답변 ŷ₁을 생성하도록 가이드한다. 알고리즘 1은 (1) 초기 생성, (2) 추상화, (3) 정지 조건 검사, (4) 인스턴스화를 순환적으로 수행한다.

1. 작업 추상화의 설계

• **프롬프트 ℘**는 메타‑디스틸러 역할을 하여 “문제의 핵심 요소를 무엇인가?”를 묻는다.
• 출력은 JSON‑형식 혹은 키‑값 쌍으로, 예를 들어 `{variables: