기만 속 인간 AI 협업: 암시적 뇌 컴퓨터 인터페이스가 VR 드론 팀을 지키다

초록

높은 인지 부하와 체계적으로 잘못된 AI 신호 제공 상황에서, 기존 행동 기반 팀 의사결정(다수결 등)은 정확도가 42.6%로 추락하는 치명적 실패를 보였다. 그러나 사전 응답 뇌파(EEG)에서 추출한 BCI 신뢰도 점수만을 사용한 ‘신경-분리 팀(NDT)’ 전략은 68.3%의 강력한 성능을 유지했다. 이는 편향된 AI가 유발한 상관 오류로부터 팀을 보호하는 ‘안전망’ 역할을 했다.

상세 분석

이 연구의 핵심 기술적 통찰은 ‘신경-행동 분리(Neuro-behavioural decoupling)’ 현상에 기반한다. 높은 부하와 AI 기만 하에서 운영자의 ‘실행 감시(executive monitoring)’ 시스템(전두엽 중심)이 붕괴되며, 주관적 확신은 현실(정답)과 유의미하게 분리되었다. 즉, 참가자들은 매우 확신하면서도 틀리는 ‘자신만의 오류’ 상태에 빠졌다. 반면, 수동형 BCI(pBCI)가 모니터링한 신경 신호, 특히 후두엽-두정엽 영역의 초기 시각 처리 관련 활동은 상대적으로 보존되어 ‘진실 신호(The Truth Signal)‘를 유지했다. 연구팀은 서포트 벡터 머신(SVM)을 사용해 응답 전 뇌파에서 ‘자동운전(autopilot)’ 상태(베타 리듬 상승 등)와 ‘인지 갈등(conflict)’ 상태(세타 리듬 상승 등)를 구분하는 분류기를 구축했다. NDT는 이 BCI 분류기의 신뢰도 점수만을 집계하여 의사결정을 내렸다. 이는 근본적으로 오염된 행동적 출력(응답 시간, 주관적 확신)을 완전히 우회함으로써, AI가 유도한 상관 오류에 팀 전체가 말려드는 것을 방지했다. 연구가 제시하는 ‘안전망 델타(+25.7%)’ 개념은 인간-AI 팀의 신뢰성 공학에서 새로운 패러다임을 제시한다: 최고의 성능 향상뿐만 아니라, 최악의 상황에서의 성능 하한선을 보장하는 ‘복원력(resilience) 설계’가 중요하다는 점이다. 다만, NDT의 정확도(68.3%)가 이론적 최고 개인 성능(82.6%)을 넘지 못한 점은, 신경 신호만으로는 미처 포착하지 못하는 인지 과정이 존재할 수 있음을 시사하며, 순수 신경 접근법의 현재 한계를 보여준다. 이 방법론은 군사 감시, 항공 관제, 핵심 사회 인프라 제어 등 높은 위험과 신뢰성이 요구되는 분야에 직접적인 적용 가능성을 열었다.