안전한 자율결정을 위한 강화 중재 그래프

초록

본 논문은 기존 중재 그래프에 검증 단계와 계층적 폴백 레이어를 추가해, 복잡하고 동적인 환경에서 자율 시스템의 안전성과 견고성을 크게 향상시키는 방법을 제안한다. Pac‑Man 시뮬레이션과 자율주행 시뮬레이션을 통해 사고 위험 감소와 시스템 신뢰성 향상을 실증한다.

상세 분석

본 연구는 로봇·자동차 등 자율 시스템에서 널리 사용되는 중재 그래프(arbitration graph) 구조에 두 가지 핵심 메커니즘을 삽입한다. 첫 번째는 검증 로직(Verification Logic) 으로, 각 행동 컴포넌트가 생성한 제어 명령 u 를 도메인‑특화 검증기 V(u) 로 검사한다. 검증이 통과하면 ν=0 으로 표시되고, 통과하지 못하면 해당 행동은 후보 리스트에서 제외된다. 이 과정은 기존 알고리즘의 5~7줄에 삽입되어, 실행 전 단계에서 안전성을 보장한다. 검증기는 충돌 여부, 교통 규칙 위반, 관절 한계 초과 등 상황에 맞는 여러 체크를 수행할 수 있어, 동일 그래프를 다양한 플랫폼에 재사용할 수 있다.

두 번째는 폴백 로직(Fallback Logic) 으로, 검증에 실패한 행동이 존재할 경우 대체 행동을 순차적으로 선택한다. 기본적인 대체 전략은 (1) 중복 행동(Redundant Component) – 동일 로직을 다른 인스턴스로 재시도, (2) 다양한 행동(Diverse Component) – 학습 기반 혹은 보수적인 전통 알고리즘을 교차 적용, (3) 마지막 명령 유지(Last Command Hold) – 직전 안전 명령을 유지, (4) 비상 행동(Emergency Behavior) – 정지 혹은 안전 대기와 같이 검증을 생략해도 무해한 최소 행동을 실행한다. 이러한 계층적 폴백은 시스템이 일시적인 오류에 빠르게 복구하도록 하며, 전체 성능 저하를 최소화한다.

논문은 Pac‑Man 데모를 통해 구체적인 구현을 보여준다. 기존 그래프에서는 “Eat Closest Dot” 행동이 버그로 잘못된 경로를 반환해 게임이 비정상 종료될 수 있었다. 검증 단계가 이를 차단하고, 폴백으로 “Move Randomly” 혹은 “Stay In Place” 로 전환함으로써 게임이 정상적으로 진행된다. 이와 유사하게 자율주행 시뮬레이션에서는 차선 침범, 보행자 충돌 등 위험 명령을 검증기에서 걸러내고, 보수적인 차선 유지·감속 행동으로 대체한다. 실험 결과, 사고 발생률이 30% 이상 감소하고, 전체 미션 성공률이 12% 상승했다.

기술적 관점에서 주목할 점은 검증기의 모듈화와 그래프 구조와의 독립성이다. 검증 로직은 행동 컴포넌트와 별도로 구현되므로, 새로운 행동을 추가할 때 검증기만 적절히 정의하면 기존 시스템을 재컴파일 없이 확장할 수 있다. 또한, 검증 결과를 정수 ν 로 반환해 그래프 내부에서 간단히 조건문으로 처리할 수 있어 실시간 성능에 큰 부담을 주지 않는다. 저자는 검증기 실행 비용을 고려해 상위 레벨(고우선순위)에서는 복잡한 시뮬레이션 기반 검증을, 하위 레벨에서는 경량 규칙 기반 검증을 적용하는 다계층 검증 전략도 제시한다.

이러한 설계는 기존 행동 기반 아키텍처인 FSM, BT와 비교했을 때 안전성의 명시적 분리를 가능하게 한다. BT에서는 각 노드가 성공/실패를 반환하지만, 노드 배치에 따라 안전성이 좌우되는 반면, 중재 그래프는 행동 자체가 반환하는 명령을 검증기로 필터링함으로써 구조적 안전성을 확보한다. 따라서 학습 기반 행동을 포함한 ‘불안정’ 컴포넌트를 시스템에 직접 삽입하더라도, 검증·폴백 메커니즘이 안전 경계를 유지한다는 점이 큰 장점이다.

마지막으로, 저자는 이 구현을 헤더‑온리 C++ 라이브러리 형태로 공개했으며, MIT 라이선스로 배포한다. 이는 연구 커뮤니티와 산업 현장에서 손쉽게 채택·확장할 수 있게 하며, 향후 안전 검증 프레임워크와의 연동도 기대된다.