호모아이오닉 메타 매핑을 통한 제로샷 작업 적응

초록

본 논문은 작업을 데이터와 동일한 잠재 공간에 임베딩하고, 그 임베딩을 변환하는 메타 매핑을 학습함으로써 새로운 작업을 사전 예시 없이 제로샷으로 수행할 수 있는 Homoiconic Meta‑Mapping(HoMM) 구조를 제안한다. 실험은 다변량 다항식 회귀와 카드 게임 전략 전이 두 도메인에서 수행되었으며, 기본 메타러닝과 메타‑매핑 모두에서 인간 수준의 일반화 능력을 보였다.

상세 분석

이 논문은 “메타‑매핑”이라는 새로운 문제 정의를 도입한다. 메타‑매핑은 기존 작업을 입력으로 받아 다른 작업을 출력하는 함수이며, 인간이 새로운 상황에 대해 기존 지식을 변형해 즉시 적용하는 능력을 모델링한다. 핵심 아이디어는 호모아이오닉(homoiconic) 원칙을 적용해 데이터, 작업, 메타‑매핑을 모두 동일한 잠재 공간 Z에 임베딩한다는 점이다. 이렇게 하면 작업 자체가 데이터와 구별되지 않으며, 동일한 메타‑네트워크 M과 하이퍼네트워크 H를 이용해 임베딩을 변환할 수 있다.

구조는 크게 네 부분으로 나뉜다. ① 입력·출력 인코더 I, O와 타깃 인코더 T가 원시 데이터를 Z에 매핑한다. ② 메타‑네트워크 M은 (입력 Z, 타깃 Z) 쌍들의 집합을 받아 하나의 함수 임베딩 z_f 을 생성한다. ③ 하이퍼네트워크 H는 z_f 을 받아 함수 F 의 파라미터를 생성한다. ④ 파라미터화된 F 은 probe 입력을 변환해 최종 출력을 만든다.

기본 메타러닝 단계에서는 M과 H가 주어진 예시 집합 D₁ 으로부터 새로운 함수 F 을 생성하도록 학습한다. 여기서 probe 데이터 D₂ 는 모델이 실제 작업을 수행할 수 있는지를 평가하는 역할을 한다. 이 과정은 기존 MAML·Proto‑Net 등 메타러닝과 동일한 구조이지만, 모든 객체가 동일한 Z에 존재한다는 점이 차별점이다.

메타‑매핑 단계에서는 작업 임베딩 자체를 데이터처럼 다룬다. 예를 들어 “게임 1을 이기기” 임베딩 z_game1 을 “게임 1을 지기” 임베딩으로 변환하고자 할 때, 다른 게임들의 승·패 임베딩 쌍을 이용해 메타‑매핑 임베딩 z_meta 을 만든다. 이후 F_{z_meta} 를 통해 z_game1 을 변환해 \hat{z}_game1,lose 을 얻고, 이를 다시 하이퍼네트워크에 넣어 실제 게임 1을 지는 정책을 생성한다. 이 과정은 새로운 작업에 대한 직접적인 데이터 없이도 수행되므로 제로샷 적응을 가능하게 한다.

실험에서는 (1) 4차원 입력, 2차 이하 다항식 회귀 문제와 (2) 다양한 카드 게임 전략 학습을 선택했다. 다항식 실험에서는 기본 메타러닝이 높은 샘플 효율성을 보였으며, 상수 곱, 제곱, 변수 순열 등 여러 메타‑매핑을 학습해 새로운 변형 다항식에 대해 제로샷으로 정확히 예측했다. 카드 게임 실험에서는 서로 다른 게임 규칙 간의 전략 전이를 메타‑매핑으로 학습했으며, 훈련되지 않은 게임에 대해 “이기기” 전략을 “지기” 전략으로 변환하는 데 성공했다. 특히, 가장 유사한 훈련된 전략을 그대로 적용하는 베이스라인보다 월등한 성능을 보이며, 메타‑매핑이 단순 기억을 넘어 구조적 변환을 학습함을 입증했다.

이 접근법의 장점은 파라미터 효율성이다. 동일한 M·H 구조를 기본 작업과 메타‑매핑 모두에 재사용함으로써 추가적인 파라미터가 거의 필요하지 않다. 또한, 범용성도 높다. 입력·출력 인코더만 교체하면 이미지, 텍스트, 강화학습 등 다양한 도메인에 적용 가능하다. 한계점으로는 메타‑매핑 자체를 학습하기 위해 충분히 다양한 변환 사례가 필요하다는 점이며, 훈련 분포를 크게 벗어나는 변환에 대해서는 추가 미세조정이 요구될 수 있다. 향후 연구에서는 언어 명령을 직접 메타‑매핑 임베딩으로 변환하거나, 연속적인 변환 체인을 학습해 복합적인 작업 전이를 구현하는 방향이 기대된다.