무작위 최적 합의: 다중 에이전트 시스템의 확률적 협업 설계

초록

본 논문은 시간에 따라 무작위로 변하는 통신 토폴로지를 갖는 다중 에이전트 네트워크에서, 각 에이전트가 자신의 로컬 비용 함수 최적해 집합만을 알 때, 베르누이 시행에 기반한 두 가지 행동(이웃 평균화와 자체 최적해 투사) 중 하나를 선택하도록 설계된 무작위 알고리즘을 제안한다. 적절한 강도 연결성(SUSC, SIC) 가정과 볼록성·교집합 비공집합 가정 하에, 알고리즘은 거의 확실히(확률 1) 전역 최적 합의를 달성함을 증명한다. 또한 유향 및 양방향 그래프에 대한 수렴 분석을 제공하고, 결정적 알고리즘과의 수치 비교를 통해 무작위화가 통신·계산 부하를 완화하면서도 수렴 속도에 큰 손실을 주지 않음을 보여준다.

상세 분석

이 논문은 분산 최적화와 합의 제어를 결합한 새로운 무작위 알고리즘을 제시한다는 점에서 기존 연구와 차별화된다. 먼저, 각 에이전트 i가 자신의 비용 함수 f_i(z)의 최적해 집합 X_i를 관측할 수 있다는 가정 하에, 전체 목표는 ∑{i=1}^n f_i(z) 를 최소화하는 전역 최적해 집합 X_0 = ⋂{i=1}^n X_i 를 찾는 것이다. X_i가 폐쇄 볼록 집합이며 교집합이 비공집합이라는 전제는 전통적인 볼록 최적화 이론에서 수렴성을 보장하는 핵심 조건이다.

알고리즘(5)은 매 시간 단계마다 독립적인 베르누이 시행을 통해 두 가지 업데이트 중 하나를 선택한다. 확률 p 로는 이웃 평균화 e_i(k)=∑{j∈N_i(k)} a{ij}(k) x_j(k) 를 수행하고, 1−p 로는 자체 투사 g_i(k)=P_{X_i}(x_i(k)) 를 수행한다. 여기서 a_{ij}(k)는 양의 가중치이며, 모든 가중치의 합이 1이고 최소값 η>0을 만족한다는 A2 가정은 평균화 연산이 각 에이전트의 현재 상태를 이웃들의 볼록 껍질 내부에 유지하도록 보장한다.

통신 그래프는 시간에 따라 무작위로 변하지만, 두 가지 확률적 연결성 개념을 도입한다. SUSC(Stochastically Uniformly Strongly Connected)는 일정 길이 B 구간 내에 그래프가 강연결될 확률이 최소 q>0임을 의미하고, SIC(Stochastically Infinitely Connected)는 양방향 그래프에서 무한히 많은 구간에 걸쳐 연결성이 확률 q 이상 유지됨을 뜻한다. 이러한 가정은 i.i.d. 그래프 모델을 필요로 하지 않으며, 실제 네트워크에서 발생할 수 있는 비동기·비정규성에 대한 강인성을 제공한다.

수렴 증명은 볼록 분석과 확률적 마르코프 체인 이론을 결합한다. 핵심은 두 연산이 모두 비팽창성(non‑expansive) 특성을 갖는다는 점이다. 평균화 연산은 가중합 형태이므로 리프시츠 연산으로 비팽창성을 유지하고, 투사 연산은 볼록 집합에 대한 정규 투사이므로 동일하게 비팽창성을 만족한다. 따라서 각 에이전트의 상태 거리 |x_i(k)−P_{X_0}(x_i(k))|는 마팅게일 수열의 하한을 갖게 되고, Borel‑Cantelli 보조정리를 이용해 무한히 많은 시간에 투사 연산이 발생함을 보장한다(lemmas 2.3). 결과적으로 모든 에이전트는 거의 확실히 X_0 안으로 수렴하고, 동시에 서로 간의 차이 |x_i(k)−x_j(k)|도 0으로 수렴한다는 두 단계 합의가 성립한다.

유향 그래프 경우 SUSC 가정 하에, 양방향 그래프 경우 SIC 가정 하에 각각 별도의 정리(정리 4.x, 정리 5.x)를 제시한다. 특히 양방향 경우에는 그래프가 비대칭적이더라도 평균화 가중치가 대칭성을 보장하지 않아도, 무한히 자주 발생하는 연결 구간을 통해 전체 네트워크가 결국 하나의 연결 성분으로 결합된다.

수치 실험에서는 n=20, d=2인 예시를 사용해 p=0.6, 0.8 등 다양한 확률에 대해 수렴 속도와 최종 오차를 비교한다. 결정적 교대형 알고리즘(averaging–projection alternating)과 비교했을 때, 무작위 알고리즘은 평균적으로 더 빠른 수렴을 보이며, 특히 통신 지연이나 패킷 손실이 높은 상황에서도 안정적으로 동작한다는 점을 강조한다.

이 논문의 주요 기여는 (1) 무작위 베르누이 선택을 통한 분산 최적화-합의 프레임워크 제시, (2) 기존 i.i.d. 그래프 가정에서 벗어난 SUSC·SIC 연결성 개념 도입, (3) 비팽창성 기반의 확률적 수렴 분석 제공, (4) 실험을 통한 실용성 검증이다. 향후 연구는 p를 동적으로 조정하는 적응형 스키마, 비볼록 목표 함수에 대한 확장, 그리고 연속시간 시스템에 대한 무작위화 적용 등이 기대된다.