불확실성을 넘어: 사회기술시스템 안전보증에 대한 인식론적 불확실성 관리

초록

본 논문은 위험 분석 과정에서 발생하는 인식론적(지식) 불확실성을 체계적으로 관리하기 위한 방법론을 제시한다. 알려진 불확실성과 알려지지 않은 불확실성을 구분하고, 이를 지원하는 레퍼런스와 모델을 구축한다. 제안된 접근법을 MoDAF 아키텍처와 ARP4761 항공기 시스템 사례에 적용해 추가적인 인과 요인을 도출할 수 있음을 보였으며, STPA와의 통합을 통해 기존 위험 분석 기법에 쉽게 삽입될 수 있음을 입증한다.

상세 분석

이 연구는 현대 사회기술시스템이 복합적인 상호작용을 통해 작동함에 따라, 위험 분석 단계에서 인과 관계를 완전하게 파악하기 어려운 ‘인식론적 불확실성(epistemic uncertainty)’을 핵심 문제로 규정한다. 기존의 위험 분석 기법—예컨대 FTA, FMEA, STPA 등—은 주로 알려진 위험 요인에 초점을 맞추고, 불확실성 자체를 정량화하거나 추적하는 메커니즘을 제공하지 않는다. 저자들은 이러한 한계를 극복하기 위해 두 축으로 접근한다. 첫 번째는 ‘알려지지 않은 불확실성(unknown uncertainty)’을 탐지하기 위한 광범위한 안전‑중요 인과 관계 레퍼런스를 구축하는 것이다. 이 레퍼런스는 다양한 도메인(항공, 자동차, 의료 등)에서 보고된 사고·사고 전조를 메타데이터 형태로 정리해, 위험 분석가가 특정 시스템 뷰에서 놓칠 수 있는 잠재적 인과 요인을 빠르게 식별하도록 돕는다. 두 번째는 ‘알려진 불확실성(known uncertainty)’을 체계적으로 기록·추적하기 위한 모델을 설계한다. 이 모델은 불확실성의 원천(데이터 부족, 모델링 가정, 인간 요소 등), 영향도, 현재 관리 상태(완화, 모니터링, 미해결) 등을 구조화된 속성으로 정의한다. 이를 통해 위험 분석 과정에서 불확실성이 언제, 어디서, 어떻게 발생했는지를 투명하게 드러내고, 라이프사이클 전반에 걸쳐 지속적인 업데이트가 가능하도록 설계하였다.

제안된 프로세스는 레퍼런스와 모델을 활용해 ‘가능한 인과 요인 후보’를 도출하고, 이를 기존 위험 분석 기법에 삽입하는 단계로 구성된다. 특히 MoDAF와 같은 복합 아키텍처 모델을 사례로 삼아, 각 뷰(운용, 기능, 물리 등)에서 독립적으로 파악된 위험 요인 외에 레퍼런스가 제시하는 교차‑관계 인과 요인을 추가함으로써 위험 식별 범위를 확대한다. 또한 ARP4761 사례 분석을 통해, 기존 안전 평가 절차에 불확실성 관리 모델을 삽입했을 때 위험 식별의 완전성이 향상되고, 추후 검증·검증 단계에서 불확실성 감소를 위한 목표가 명확해지는 효과를 확인했다. 마지막으로 STPA에 본 접근법을 통합함으로써, 제어 구조 다이어그램에 불확실성 메타데이터를 부착하고, ‘제어 행동’과 ‘피드백 루프’ 사이의 잠재적 인과 결함을 보다 정밀하게 탐색할 수 있음을 시연하였다.

전체적으로 이 논문은 위험 분석에 ‘불확실성’ 자체를 하나의 관리 대상 객체로 전환함으로써, 기존 기법이 놓치기 쉬운 ‘숨은 위험’들을 체계적으로 드러내고, 라이프사이클 전반에 걸쳐 지속 가능한 안전 보증을 가능하게 하는 혁신적 프레임워크를 제시한다.