기계 학습에서 기계 추론으로 모델 조합의 대수적 접근

초록

**
본 논문은 “추론”을 기존에 학습된 지식을 대수적으로 조작해 새로운 질문에 답하는 과정으로 정의한다. 논문은 OCR, 얼굴 인식, 자연어 처리 등에서 보조 과제를 활용한 모듈 결합을 사례로 제시하고, 이러한 결합 규칙을 ‘구성 연산’이라 부른다. 논자는 논리·확률 추론과 같은 전통적 추론 체계와 달리, 학습된 모델들의 대수적 조작을 풍부하게 함으로써 기계 추론 능력을 단계적으로 구축할 수 있다고 주장한다.

**

상세 분석

**
이 논문은 추론을 “이전에 획득한 지식을 대수적으로 조작해 새로운 질문에 답하는 행위”라고 정의함으로써, 전통적인 논리 추론이나 확률 추론을 포함하면서도 훨씬 넓은 범위의 머신러닝 시스템을 포괄한다. 핵심 아이디어는 학습된 모듈들을 단순히 연결(concatenation)하거나 미세조정(fine‑tuning)하는 행위 자체를 하나의 대수 연산으로 보는 것이다. 이를 위해 저자는 OCR 파이프라인, 얼굴 인식 시스템, 그리고 대규모 말뭉치를 이용한 단어 임베딩 학습 등 세 가지 구체적 사례를 제시한다.

첫 번째 사례에서는 문자 분할기, 문자 인식기, 언어 모델을 각각 별도의 데이터셋으로 학습한 뒤, 이들을 연쇄적으로 결합하고 전체 시스템을 미세조정함으로써 이미지 → 텍스트 변환이라는 새로운 질문에 답한다. 여기서 각 모듈은 함수 공간의 원소이며, 모듈 결합은 함수 합성이라는 대수적 연산에 해당한다.

두 번째 사례는 보조 과제인 “두 얼굴이 동일 인물인지 여부”를 이용해 얼굴 표현 추출기(P)와 비교기(D)를 먼저 학습하고, 이후 동일 인물 분류기(C)를 추가 학습하는 전형적인 전이 학습(transfer learning) 흐름을 보여준다. 저자는 P와 D를 여러 인스턴스로 복제하고 파라미터를 공유함으로써, 모듈 간의 동형 사상(isomorphism)을 유지하고, 이는 “모델 공간과 질문 공간 사이의 대수적 대응”을 구현한다는 점을 강조한다.

세 번째 사례는 대규모 코퍼스를 이용해 단어 임베딩 모듈(W)과 순위 모듈(R)을 학습하고, 이를 다양한 NLP 태스크(품사 태깅, 청크링, 명명 entity 인식 등)에 재조합하는 방법을 제시한다. 여기서 임베딩은 고차원 의미 공간의 좌표이며, 여러 태스크에 동일한 임베딩을 재사용함으로써 “공통 개념”을 추출하고, 이는 전통적인 논리적 개념 추상화와 유사한 역할을 한다.

논문은 이러한 사례들을 통해 “구성 규칙(composition rules)”이 모델 조합의 핵심이며, 이는 대수 구조를 정의하는 연산자 집합이라고 주장한다. 또한 확률 그래프 모델, 베이시안 네트워크, 마코프 논리 네트워크 등 기존 확률적 추론 체계도 파라미터와 조건부 분포를 대수적으로 결합하는 규칙을 내포하고 있음을 지적한다.

마지막으로 저자는 “추론 시스템”을 (a) 모델들의 대수적 공간, (b) 모델과 질문을 연결하는 동형 사상인 구성 규칙의 쌍으로 정의한다. 논리 추론, 확률 추론, 인과 추론, 뉴턴 역학, 공간·사회적 추론 등 다양한 추론 형태를 이 프레임워크 안에서 계층적으로 확장할 수 있음을 제시한다. 핵심 통찰은 복잡한 전통적 추론을 직접 구현하기보다, 학습된 모듈들의 조합 규칙을 점진적으로 풍부하게 함으로써 점진적인 “기계 추론” 능력을 구축할 수 있다는 점이다.

**