가우시안 프로세스 기반 메시지 필터링으로 적대적 통신에 강인한 다중 에이전트 협업

초록

본 논문은 다중 에이전트 시스템에서 적대적(비협조적) 에이전트가 전송하는 왜곡된 메시지를 탐지·제거하기 위해, 위치 의존적인 상호 정보를 가우시안 프로세스로 모델링하고, 이를 GNN 기반 통신 구조에 신뢰도 가중치로 통합하는 방법을 제안한다. 제안 기법은 다양한 적대적 행위 유형에 대해 높은 견고성을 보이며, 적대적 공격이 없을 때는 성능 저하가 거의 없다.

상세 분석

이 연구는 두 가지 핵심 아이디어를 결합한다. 첫째, 에이전트들의 관측값을 자동 인코더(AE)로 압축한 잠재 변수 z 를 확률적 표현 q(z|o) 으로 전송하고, 이 잠재 공간을 위치 x 에 대한 함수로 가우시안 프로세스(GP)로 학습한다. GP의 커널은 학습 가능한 형태이며, 물리적 근접성에 따라 관측 간 상호 정보를 정량화한다. 둘째, 각 에이전트 i 는 이 GP 사후분포와 이웃 j 의 상대 위치 x_{ji} 를 이용해 “신뢰도” c_i(j) 를 계산한다. 신뢰도는 베이지안 사후확률에 기반한 가중치이며, GNN의 합집계(aggregation) 단계에 attention‑like 방식으로 적용된다. 신뢰도가 1에 가까우면 기존 GNN과 동일하게 동작하고, 0에 가까우면 해당 이웃의 메시지를 완전히 무시한다.

논문은 비협조적 에이전트를 네 가지 유형(결함, 순진, 신중, 전지전능)으로 구분하고, 각 유형에 대해 실험을 수행한다. GP 모델은 물리적 위치와 메시지 간의 연관성을 포착함으로써, 예를 들어 동일 지역에 있는 두 에이전트가 서로 크게 다른 잠재 표현을 보낼 경우 이를 낮은 신뢰도로 판단한다. 또한, 이 방법은 메시지의 정밀도(분산)까지 고려해 과도하게 확신적인 가짜 메시지를 식별한다.

핵심 기여는 (i) 위치‑의존적 상호 정보를 포착하는 새로운 확률 모델, (ii) 적대적 에이전트의 지식 수준을 체계화한 taxonomy, (iii) 신뢰도 기반 메시지 필터링을 GNN에 무손실로 통합한 메커니즘, (iv) 정적 군집 분류와 다중 에이전트 강화학습 두 도메인에서의 실증적 검증이다. 실험 결과, 전지전능형 적대자에게도 일정 수준 이상의 성능 저하를 억제했으며, 적대자가 전혀 없을 때는 기존 GNN과 거의 차이가 없었다.