경량 AI 파이프라인으로 연구 수준 수학 문제 해결

초록

본 논문은 최신 대형 언어 모델(Gemini 3 Pro, GPT‑5.2 Pro)을 경량 자연어 파이프라인에 통합하고, 인용 기반 검증 메커니즘을 도입함으로써 ICCM 문제집과 최초 공개 연구 문제집(First Proof) 등 연구 수준의 수학 문제를 자동으로 해결할 수 있음을 실증한다. 파이프라인은 모든 문제에 대한 후보 증명을 생성했으며, ICCM 첫 두 세트와 First Proof의 4번 문제는 인간 전문가에 의해 완전 검증되었다.

상세 분석

이 연구는 기존 IMO‑레벨 자동 풀이 파이프라인을 기반으로 두 가지 핵심 개선을 도입한다. 첫째, 도메인‑특화 프롬프트 최적화를 통해 고등학교 수준을 넘어 대학·대학원 수준의 추상적 개념과 정의를 모델이 이해하도록 설계하였다. 구체적으로, 수학 전공 용어 사전과 단계별 추론 템플릿을 프롬프트에 삽입해 모델이 “정리·정의 → 가정 → 증명 단계”를 명시적으로 따르도록 유도했다. 둘째, 인용‑증강 검증 메커니즘을 도입해 비자명한 주장마다 정확한 문헌·교과서 페이지를 명시하도록 강제하였다. 이는 기존 LLM이 종종 발생시키는 ‘환각’(hallucination) 문제를 크게 감소시켰으며, 검증자가 제시된 인용을 통해 논리 흐름을 추적하고 오류를 빠르게 발견할 수 있게 한다.

실험에서는 ICCM 2025·2026 문제집의 첫 두 세트(각 6문제)와 First Proof(10문제)에 파이프라인을 적용하였다. 모든 문제에 대해 후보 증명을 몇 분 내에 생성했으며, 특히 ICCM 세트 1·2는 100% 정답률을 보였다. 인간 전문가가 검증한 결과, 인용된 교과서(예: Kashiwara & Schapira “Categories and Sheaves”)와 논문을 정확히 참조했으며, 증명 논리 역시 수학적 엄밀성을 만족했다.

한편, ICCM 세트 3의 개방형 문제와 First Proof의 나머지 문제들은 현재 검증 인력이 부족해 완전 검증되지 못했지만, 모델이 “해결 불가능”을 스스로 선언하거나 제한된 영역에서 부분적인 접근을 시도하는 모습을 보여, AI가 문제 난이도를 판단하고 인간과 협업할 가능성을 시사한다.

또한, 검증 병목 현상이 주요 제약으로 부각되었다. 후보 증명 생성은 수초에서 수분에 그치지만, 인간이 인용을 확인하고 논리적 일관성을 검증하는 데는 평균 2~3시간이 소요되었다. 이는 향후 자동 형식화(Lean 4 등)와 결합된 하이브리드 검증 체계가 필요함을 강조한다.

실제 사례 연구에서는 (1) 복합 순위·제거 문제에서 5명의 잠재 챔피언을 증명, (2) 카테고리 이론에서 좌Exact 함수를 온에다 확장과 연결, (3) 다항식 연산 Φₙ 부등식에서 n=1 경우 반례를 찾아 부등식이 거짓임을 입증하는 등, 다양한 수학 분야에서 모델이 깊이 있는 추론과 정확한 인용을 수행함을 확인했다.

결론적으로, 경량 자동 파이프라인과 최신 LLM의 결합은 연구 수준 수학 문제 해결에 실질적인 진전을 이루었으며, 향후 검증 자동화와 사용자 친화적 인터페이스 개발이 AI‑수학 협업의 핵심 과제로 남는다.