동적 속임수 보행자 협동으로 자율주행차 속이기

초록

본 논문은 보행자 두 명이 협력해 옷에 적대적 패치를 부착하고, 차량 앞을 동적으로 이동함으로써 자율주행 차의 인식 모듈을 오도시켜 차량을 정지시키는 시스템‑레벨 공격을 제안한다. 단일 보행자 혹은 정적 협동은 실패하지만, 동적 협동은 50% 이상의 성공률을 보인다.

상세 분석

이 연구는 기존 적대적 공격이 모델 수준에서 높은 성공률을 보이지만, 실제 주행 스택에 적용될 때는 차량의 동역학과 연속적인 센서 융합 때문에 효과가 급격히 감소한다는 점을 지적한다. 이를 극복하기 위해 저자들은 “동적 협동”이라는 새로운 위협 모델을 도입한다. 핵심 아이디어는 두 명 이상의 보행자가 각각 작은 크기의 패치를 옷에 부착하고, 차량의 시야에 들어오는 동안 서로 위치를 맞추어 마치 하나의 큰 패치처럼 보이게 하는 것이다. 이렇게 하면 단일 보행자가 제공할 수 있는 패치 면적의 제한을 넘어서는 신호 강도를 확보한다. 특히 보행자들이 차량과 같은 방향으로 움직이며 지속적으로 패치를 노출하면, 인식 모듈이 지속적인 오탐지를 수행하게 되고, 이는 차량 제어 로직에 누적되어 최종적으로 정지 명령을 유발한다.

논문은 CARLA 시뮬레이터와 최신 Transfuser++ 기반 자율주행 에이전트를 사용해 실험을 수행한다. 실험 설계는 네 가지 시나리오(단일 정적, 단일 동적, 다중 정적, 다중 동적)로 구성되며, 각 시나리오를 10번 반복한다. 결과는 단일 보행자(정적·동적 모두)와 다중 정적 보행자는 0% 성공률을 보인 반면, 다중 동적 보행자는 5번 중 2~5번에서 차량을 완전 정지시키는 성과를 기록한다. 이는 적대적 신호가 시간적으로 지속되고, 공간적으로 증폭될 때만 시스템 수준의 실패가 발생한다는 강력한 증거다.

기술적 기여는 네 가지로 요약된다. 첫째, 보행자를 이용한 은밀한 시스템‑레벨 공격 프레임워크를 제시한다. 둘째, 패치 크기 제한을 극복하기 위한 ‘협동 패치’ 개념을 도입한다. 셋째, 보행자 움직임을 활용한 ‘동적 협동’ 전략을 설계해 지속적인 공격 효과를 확보한다. 넷째, CARLA와 최신 자율주행 스택을 이용한 포괄적인 실험을 통해 기존 정적·단일 공격과의 차별성을 입증한다.

이 연구는 적대적 방어 메커니즘 설계에 새로운 도전을 제시한다. 기존 방어는 주로 정적 물체나 단일 프레임 기반의 이상 탐지에 초점을 맞추었지만, 동적인 다중 행위자를 통한 지속적 신호는 현재 방어 체계가 포착하기 어려운 특성을 가진다. 따라서 미래의 방어 연구는 시계열적 연속성, 다중 객체 간 상관관계, 그리고 행동 패턴 분석을 포함하는 보다 포괄적인 접근이 필요하다. 또한, 실제 물리적 환경에서 옷에 프린트된 패치가 어떻게 인식되는지, 조명·날씨·시점 변화에 대한 내구성을 평가하는 실험이 추가로 요구된다.