소셜 네트워크에서 허위정보 확산 메커니즘

초록

본 논문은 개인이 실수값 형태의 신념을 가지고 쌍방향 평균화 과정을 통해 정보를 교환하는 모델을 제시한다. 일부 ‘강제적’ 에이전트는 자신의 신념을 고수하면서 타인에게만 영향을 미치며, 이들이 존재할 경우 전체 사회는 합의에 도달하지만 그 합의값은 무작위적 편향을 포함한다. 논문은 강제적 에이전트의 존재가 정보 집합 효율성을 어떻게 저해하는지, 그리고 최악의 경우 편향이 얼마나 크게 발생할 수 있는지를 정량적으로 분석한다.

상세 분석

이 연구는 네트워크 상의 에이전트들이 매 회의마다 서로의 신념을 평균하는 ‘평균화 규칙’을 따르는 동적 시스템을 수학적으로 모델링한다. 전통적인 평균화 모델에서는 모든 에이전트가 대등하게 상호작용하므로, 초기 신념들의 가중 평균이 보존되고 결국 모든 개인이 동일한 합의값에 수렴한다는 것이 알려져 있다. 그러나 현실 사회에서는 의견을 강하게 고수하면서 타인에게만 영향을 미치는 ‘강제적’(forceful) 에이전트가 존재한다는 점을 반영한다. 강제적 에이전트는 자신의 신념을 절대적으로 유지하면서, 만나는 상대에게는 자신의 신념을 그대로 전달한다. 이때 강제적 에이전트도 가끔은 다른 에이전트로부터 정보를 얻지만, 그 빈도는 매우 낮다.

논문은 먼저 이러한 비대칭 상호작용이 포함된 시스템에서도 마코프 연쇄의 수렴성 조건을 만족한다는 것을 증명한다. 즉, 모든 에이전트는 결국 하나의 공통된 신념값으로 수렴하지만, 그 값은 초기 신념들의 단순 평균이 아니라, 강제적 에이전트들의 초기 신념에 가중치를 부여한 확률 변수이다. 특히, 강제적 에이전트가 서로 연결된 서브그래프를 형성하고, 그 내부에서만 정보를 교환한다면, 그 서브그래프의 평균 신념이 전체 사회의 최종 합의값을 크게 좌우한다.

핵심 정리는 두 가지 경우로 나뉜다. 첫째, 강제적 에이전트가 소수이며, 그들이 외부로부터 얻는 정보가 충분히 무작위적이면, 최종 합의값은 원래 평균에 근접한다. 둘째, 강제적 에이전트가 다수이거나, 그들이 주로 자신들의 서브그래프 내부에서만 정보를 교환할 경우, 최종 합의값은 원래 평균에서 크게 벗어나며, 이는 최악의 ‘허위정보 편향’ 상황이다. 논문은 이러한 편향을 정량화하기 위해 그래프 라플라시안의 스펙트럼 특성, 특히 알게브라적 연결성(Algebraic Connectivity)과 강제적 에이전트의 위치를 이용한 상한·하한을 도출한다.

또한, 강제적 에이전트가 외부 정보를 획득하는 확률이 시간에 따라 감소하는 경우, 편향은 초기 단계에서 급격히 형성된 뒤 점차 감소하지만, 완전한 회복은 불가능함을 보인다. 이는 실제 소셜 미디어에서 초기 급증하는 허위정보가 장기적인 의견 형성에 미치는 영향을 설명한다.

결과적으로, 논문은 네트워크 구조, 강제적 에이전트의 비율, 그리고 그들의 정보 획득 빈도가 정보 집합 효율성에 미치는 복합적인 영향을 체계적으로 분석하고, 정책 입안자가 허위정보 확산을 억제하기 위한 전략(예: 강제적 에이전트와의 연결을 강화하거나, 그들의 외부 정보 접근성을 높이는 방안)을 설계하는 데 필요한 정량적 지표를 제공한다.