행동 정책으로 드러나는 정보 작전 주체 탐지

초록

본 논문은 Reddit 사용자 활동을 순차적 의사결정 과정으로 모델링하여, 행동 정책 기반 특징을 추출하고 이를 이용해 악성 정보 작전(트롤) 계정을 식별한다. 12 064명의 사용자를 대상으로 38 백만 개 이상의 행동 데이터를 분석했으며, 정책 기반 분류기가 텍스트 임베딩보다 높은 매크로 F₁(94.9% vs 91.2%)을 달성한다. 짧은 행동 궤적에서도 조기 탐지가 가능하고, 데이터 변조나 회피 공격에 대해서도 견고함을 보인다.

상세 분석

이 연구는 기존의 텍스트·네트워크 기반 탐지 방식이 생성형 AI와 플랫폼 정책 변화에 의해 약화되는 문제를 인식하고, ‘행동 정책’이라는 새로운 신호에 주목한다. 저자들은 각 Reddit 사용자의 활동을 상태(state)와 행동(action)으로 구성된 시퀀스로 변환하고, 이를 마코프 결정 과정(MDP)으로 공식화한다. 상태는 최근의 상호작용 결과(예: 댓글 수, 투표 결과)로 정의되고, 행동은 스레드 생성, 댓글 작성, 답글 달기 등 플랫폼 기능을 의미한다.

정책 추정은 세 단계로 진행된다. 첫째, 관찰된 상태‑행동 빈도를 그대로 사용한 경험적 정책(empirical policy)이다. 둘째, 생성적 적대 모방 학습(GAIL)을 적용해 실제 행동 분포를 모방하는 정책을 학습한다. 셋째, 최대 엔트로피 심층 역강화학습(MaxEnt Deep IRL)을 이용해 보상 함수를 복원하고, 소프트 밸류 이터레이션을 통해 확률적 정책을 도출한다. 각 정책은 사용자를 고정 길이 벡터로 요약해 XGBoost와 Random Forest 같은 지도 학습기에 입력한다.

실험에서는 Reddit 투명성 보고서에 명시된 러시아 IRA 계정 99개와 일반 사용자 11 965개를 대상으로 5‑fold 교차 검증을 수행했다. 정책 기반 모델은 모든 경우에서 텍스트 임베딩(예: BERT 기반)보다 우수했으며, 특히 GAIL이 평균 매크로 F₁ = 94.9%로 최고 성능을 기록했다. 초기 탐지를 위해 첫 3~10개의 상태‑행동 쌍만 사용했을 때도 정책 기반 모델은 91.4% 이상의 F₁ 점수를 유지했으며, 텍스트 기반은 70% 수준에 머물렀다.

또한, 상태‑행동 쌍을 임의로 교체하는 회피 시나리오(p = 0~0.5)에서도 정책 기반 모델은 점진적인 성능 저하만 보였고, 30% 교체 시에도 80% 이상의 F₁을 유지했다. 이는 행동 정책이 텍스트 변조에 비해 내재된 구조적 신호를 담고 있기 때문이다. 클러스터링 분석에서는 트롤 집단 내에서도 몇 개의 하위 정책 군집이 발견됐으며, 일부 ‘하이재킹’된 계정은 유사 정책을 보이면서도 비정상적인 활동 패턴을 나타냈다.

결과적으로, 행동 정책은 플랫폼 독립적이며, 텍스트·네트워크 정보가 제한된 상황에서도 지속 가능한 탐지 신호를 제공한다는 점이 핵심 인사이트다.