하이퍼그래프 신경망으로 풀어내는 다중 에이전트 경로 찾기: 그룹 상호작용의 새로운 패러다임

초록

본 논문은 기존 그래프 신경망(GNN)이 한계인 쌍(pairwise) 메시징을 넘어, 하이퍼그래프 기반 주의 메커니즘을 도입한 HMAGAT 모델을 제안한다. 하이퍼그래프는 다수 에이전트 간의 그룹 상호작용을 명시적으로 표현함으로써, 밀집 환경에서 발생하는 ‘주의 희석(attention dilution)’ 문제를 완화한다. 1M 파라미터, 100배 적은 학습 데이터에도 불구하고 최신 85M 파라미터 모델을 능가하는 성능을 보이며, 하이퍼그래프가 MAPF와 같은 고차원 협업 문제에 적합한 inductive bias임을 실증한다.

상세 분석

HMAGAT의 핵심 혁신은 두 단계로 나뉜다. 첫째, 에이전트 간의 관계를 단순한 그래프가 아닌 ‘방향성 하이퍼그래프’로 모델링한다. 여기서 하이퍼엣지는 하나의 헤드(결정 대상 에이전트)와 다수의 테일(그 에이전트의 행동에 영향을 미치는 에이전트 집합)으로 구성되며, 각 테일 노드와 헤드 사이에 위치·거리 정보를 포함한 4차원 하이퍼엣지 특징을 부여한다. 둘째, 이러한 하이퍼그래프 위에서 동작하는 ‘하이퍼그래프 주의 네트워크(HGNN)’를 설계한다. 기존 GNN이 노드 간의 쌍별 attention을 softmax로 정규화하면서 주변 노드가 많아질수록 중요한 노드의 가중치가 희석되는 문제를, HMAGAT은 두 단계의 attention(테일→하이퍼엣지, 하이퍼엣지→헤드)으로 분리하고 각각을 독립적으로 정규화한다. 이 구조는 (1) 다중 에이전트가 동시에 충돌 회피를 위해 협력해야 하는 상황에서 그룹 전체의 의도를 한 번에 캡처하고, (2) 밀집 환경에서도 핵심 에이전트에 높은 가중치를 부여해 ‘주의 희석’을 방지한다는 점에서 이론적·실험적 장점을 제공한다.

하이퍼그래프 생성 전략도 논문의 중요한 기여이다. 저자들은 (a) Lloyd 알고리즘 기반 Voronoi 파티셔닝 후 색상(컬러) 오버랩을 허용하는 ‘소프트 경계’ 방식, (b) k‑means 클러스터링을 이용한 저비용 색상 확산, (c) 에이전트 간 최단거리 관계를 직접 활용하는 방식 등 세 가지 방법을 제시한다. 특히 색상 오버랩은 에이전트가 파티션 경계 근처에 있을 때도 그룹 상호작용을 놓치지 않게 하여, 실제 MAPF 환경에서 발생하는 복잡한 교차 충돌 상황을 효과적으로 모델링한다.

실험에서는 21K 인스턴스를 기반으로 한 전문가 데이터(최적/준최적 솔버)와 POGEMA 시뮬레이터를 활용해 학습하였다. HMAGAT은 1M 파라미터와 0.01배 데이터 규모에도 불구하고, 기존 최첨단 모델(MAGAT, MAPF‑GPT 등)보다 SoC(총 이동 시간)와 성공률 모두에서 우수한 결과를 보였다. 특히 에이전트 밀도가 높은 ‘High AD’ 시나리오에서 주의 희석 문제를 겪는 GNN 기반 모델과 달리, HMAGAT은 안정적인 경로를 생성하고 충돌을 최소화한다. 추가적으로, 사후 훈련 단계에서 ‘온도 샘플러’를 도입해 정책의 확신도를 높였으며, 이는 실제 운영 시 탐색 효율성을 크게 향상시킨다.

전체적으로 HMAGAT은 (1) 하이퍼그래프를 통한 고차원 관계 표현, (2) 두 단계 주의 메커니즘으로 주의 희석 완화, (3) 다양한 하이퍼그래프 생성 기법으로 환경 적응성 확보, (4) 경량 모델·소량 데이터로도 기존 대규모 모델을 능가하는 성능을 달성한다는 점에서 MAPF뿐 아니라 다른 다중 에이전트 협업 문제에도 적용 가능한 강력한 프레임워크라 할 수 있다.