위험 기반 로봇 물리 안전 데이터 파이프라인

초록

본 논문은 로봇 시스템의 물리적 안전을 보장하기 위해 자산 선언, 취약점 열거, 위험 시나리오 정의, 디지털 트윈 기반 합성 데이터 생성, 그리고 머신러닝 모델 파인튜닝을 순차적으로 연결하는 5단계 파이프라인을 제안한다. 위험 기반 접근을 통해 결정론적 위험과 emergent 위험을 모두 포착하고, 합성 데이터로 희귀·극단 상황을 학습시켜 안전 인식 모델의 인덕티브 바이어스를 강화한다.

상세 분석

이 논문은 기존 로봇 안전공학이 주로 하드웨어 결함이나 단일 컴포넌트 고장에 초점을 맞추는 한계를 지적하고, 물리 AI 시스템이 복합적인 다중 에이전트 상호작용 속에서 발생하는 emergent 위험을 다루기 위한 체계적 방법론을 제시한다. 핵심은 ‘위험‑인포메드(Hazard‑Informed)’라는 개념으로, 위험을 사전 정의된 온톨로지에 매핑하고 이를 데이터 파이프라인에 직접 연결한다는 점이다.

첫 번째 단계인 자산 선언(Asset Declaration)은 ISO 12100·ISO 10218 등 국제 표준과 일치하도록 인간, 조직, 환경 등 보호 대상 자산을 계층적으로 전부 열거한다. 여기서 ‘필터링 금지’ 원칙을 두어 초기 설계 단계에서의 블라인 스팟을 최소화한다.

두 번째 단계는 노출 모드(Vulnerability Enumeration)로, 각 자산이 어떻게 위험에 노출될 수 있는지를 독립적인 취약점 카탈로그 형태로 정리한다. 예를 들어 인간 팔은 움직이는 액추에이터에, 배터리는 과열에, 데이터는 손상에 노출될 수 있다. 이러한 분류는 전통적인 FMEA와 달리 원인과 결과를 분리해 위험 표면을 넓게 탐색한다.

세 번째 단계는 위험 시나리오 정의(Hazard Scenario Definition)이다. 여기서는 노출 모드와 구체적인 원인‑결과 체인을 연결해 실제 사고 메커니즘을 모델링한다. ‘센서 가림 → 감지 실패 → 충돌’과 같은 시나리오는 시뮬레이션 및 검증에 바로 활용 가능하도록 구조화된다.

네 번째 단계는 디지털 트윈 기반 합성 데이터 생성이다. 각 시나리오마다 고충실도 3D 환경을 구축하고, 고장 모드를 프로그래밍적으로 삽입한다. 조명, 카메라 시점, 물리 파라미터 등을 무작위 혹은 설계된 범위 내에서 변형해 수천~수만 개의 학습 샘플을 자동 생성한다. 이 과정은 단순 데이터 증강이 아니라 위험 온톨로지에 기반한 ‘시나리오‑주도 합성’이다.

다섯 번째 단계는 생성된 합성 데이터를 이용한 머신러닝 파인튜닝이다. 일반 목적의 비전·제어 모델을 사전 학습된 상태에서, 위험 인식에 특화된 레이블(예: ‘잠재적 교착 상태’, ‘과열 징후’)을 부여한 데이터로 재학습한다. 결과적으로 모델은 일반적인 환경 인식 능력은 유지하면서, 안전에 민감한 미세한 패턴을 포착하도록 인덕티브 바이어스가 형성된다.

논문은 또한 기존 문헌을 광범위히 리뷰하며, 물리 AI 안전이 ‘다차원(physical, social‑psychological, cyber‑physical, temporal, societal)’ 접근을 필요로 함을 강조한다. 특히 LLM 기반 로봇 플래닝에서 안전 플래너와 메인 플래너를 분리하는 SAFER 프레임워크와, 물리 안전을 위한 벤치마크(ASIMO V‑2.0) 등을 인용해, 데이터 중심 접근이 기존 규격 기반 검증을 보완한다는 점을 설득력 있게 제시한다.

핵심 인사이트는 다음과 같다. ① 위험 온톨로지를 사전 정의함으로써 ‘무엇을 보호하고, 어떻게 노출될 수 있는가’를 명확히 할 수 있다. ② 합성 데이터는 희귀·극단 상황을 비용 효율적으로 재현해, emergent 위험을 학습시킬 수 있다. ③ 파이프라인 전체가 순환 구조를 가질 수 있어, 실운영에서 수집된 실제 사고 로그를 다시 온톨로지와 합성 데이터에 피드백함으로써 지속적인 안전 성능 향상이 가능하다.