크기 일반화를 위한 전이 가능성 이론: 연속성으로 바라본 차원 일반화

초록

본 논문은 입력 크기가 다른 데이터에 대해 동일한 모델이 일관된 성능을 보이는 “전이 가능성(transferability)”을 수학적으로 정의하고, 이를 무한 차원 제한 공간에서의 연속성으로 귀결시킨다. 저자들은 기존 그래프 신경망(GNN) 이론을 일반화하여 집합, 포인트 클라우드 등 다양한 구조에 적용 가능한 프레임워크를 제시하고, 설계 원칙을 통해 새로운 전이 가능한 모델을 만든다. 실험을 통해 이론적 결과를 검증한다.

상세 분석

이 논문은 차원(크기) 독립적인 모델이 작은 입력에서 학습된 파라미터 θ를 그대로 유지하면서 큰 입력에도 동일하게 적용될 수 있는 조건을 두 가지 핵심 개념—‘호환성(compatibility)’과 ‘연속성(continuity)’—으로 정형화한다. 먼저, 저자들은 “일관된 시퀀스(consistent sequence)”라는 수학적 구조를 도입한다. 여기서는 각 입력 크기 n에 대응하는 유한 차원 벡터 공간 Vₙ과, 크기가 다른 두 공간을 연결하는 선형 임베딩 ϕ_{N,n}을 정의하고, 이 임베딩이 그룹 Gₙ(예: 대칭군 Sₙ)와의 동형성을 유지하도록 설계한다. 이러한 시퀀스는 모든 n에 대해 동일한 무한 차원 제한 공간 V_∞에 자연스럽게 포함되며, 서로 다른 크기의 객체를 동일한 등가 클래스(