인간 중심 안전 필터로 레이싱 AI와 협업

초록

본 논문은 인간 운전자의 자율성을 유지하면서도 안전성을 크게 향상시키는 인간‑중심 안전 필터(HCSF)를 제안한다. HCSF는 블랙박스 시스템과의 상호작용을 통해 학습한 신경망 기반 안전 가치 함수(Q‑CBF)를 활용해, 시스템 동역학을 알 필요 없이 실시간으로 상태‑행동 제어 장벽 함수를 적용한다. 기존의 마지막‑수단 안전 필터와 달리 인간의 조작을 최소한으로, 부드럽게 보정함으로써 ‘자동화 서프라이즈’를 줄이고 사용자의 만족도와 편안함을 높인다. 고충실도 레이싱 시뮬레이터 Assetto Corsa를 이용한 83명의 참가자 대상 실험에서, HCSF는 무보조와 기존 필터에 비해 사고율을 낮추고 인간 주도성을 유지하면서도 전반적인 만족도를 크게 향상시켰음을 입증한다.

상세 분석

본 연구는 공유 자율 시스템에서 안전 필터가 인간의 의도와 조화를 이루지 못하면 발생하는 ‘자동화 서프라이즈’를 근본적으로 해결하고자 한다. 핵심 아이디어는 두 단계로 구성된다. 첫 번째는 블랙박스 환경에서도 대규모 샘플링을 통해 안전 가치 함수 V(x)와 상태‑행동 안전 가치 함수 Q(x,u)를 신경망으로 근사하는 과정이다. 여기서는 기존 Hamilton‑Jacobi(HJ) 접근법이 고차원에서 겪는 ‘차원의 저주’를 회피하기 위해 강화학습(RL) 기반의 안전 RL 기법을 도입한다. Q‑함수는 상태와 후보 행동을 동시에 평가하여, 현재 행동이 안전 경계(S*)를 위협하는 정도를 정량화한다.

두 번째는 학습된 Q‑함수를 이용해 제어 장벽 함수(CBF) 형태의 제약을 실시간에 적용하는 Q‑CBF 필터이다. 전통적인 CBF는 시스템 모델 f(x,u)를 필요로 하지만, Q‑CBF는 Q(x,u)≥0이라는 조건만으로 안전성을 보장한다. 구체적으로, 인간 운전자가 제시한 제어 u_h(t)=π_task(x_t)를 그대로 사용하되, Q(x_t,u_h(t))가 음수이면 최소한의 수정 Δu를 계산한다. 이때 Δu는 Q‑함수의 그래디언트를 활용한 투사 연산으로 구해지며, 수정량은 α∈(0,1] 스칼라를 통해 부드럽게 제한한다. 결과적으로 인간의 입력을 급격히 차단하는 것이 아니라, 안전 마진을 유지하면서 연속적인 보정이 이루어진다.

논문은 또한 ‘마지막‑수단 필터(LRSF)’와의 비교를 통해 HCSF의 장점을 실증한다. LRSF는 V(x)≤0이 되는 순간 완전한 대체 정책 π_e(x)를 적용해 급격한 전환을 일으키지만, HCSF는 Q‑CBF를 통해 경계에 도달하기 전부터 미세 조정을 시작한다. 이는 인간 운전자가 자신의 의도와 AI 보조 사이의 연속성을 체감하게 하여, 신뢰와 만족도를 높인다.

실험 설계는 Assetto Corsa 시뮬레이터의 블랙박스 물리 엔진을 그대로 사용함으로써, 실제 차량 동역학과 유사한 고차원, 비선형, 노이즈가 섞인 환경을 제공한다. 83명의 참가자를 세 그룹(무보조, LRSF, HCSF)으로 나누어, 트랙 탈선, 충돌, 시간당 평균 속도, 그리고 사후 설문(주관적 안전감, 주도감, 편안함, 전반적 만족도)을 측정했다. 통계 분석 결과 HCSF는 LRSF 대비 탈선·충돌률을 27% 감소시켰으며, 주관적 주도감 점수는 1.8점(5점 척도) 상승했다. 또한, 보조가 적용된 구간에서도 평균 속도 저하가 최소화돼 경기 성능 저하 없이 안전을 확보했다.

이러한 결과는 (1) 모델‑프리 CBF 기반 안전 필터가 고차원 블랙박스 시스템에 적용 가능함, (2) 인간 의도를 최소한으로 침해하면서도 안전을 보장하는 보조 전략이 실제 사용자 경험을 크게 향상시킴을 시사한다. 향후 연구에서는 다중 인간 운전자와 복수 차량이 동시에 존재하는 레이싱 시나리오, 그리고 실제 물리 차량에 대한 현장 적용을 통해 일반화 가능성을 검증할 필요가 있다.