그룹 기반 행동공간 축소로 인한 인과 책임 메트릭

본 논문은 자율주행차와 모바일 로봇이 인간과 상호작용하는 복잡한 다중 에이전트 환경에서 발생하는 ‘인과 책임 공백’을 해결하고자 한다. 기존 연구들은 주로 개별 에이전트가 다른 에이전트의 가능한 행동을 제한함으로써 책임을 정의하는 Feasible Action‑Space Reduction(FeAR) 메트릭을 제안했지만, 여러 에이전트가 동시에 동일한 행동을 차단하는 ‘인과 과잉결정(over‑determinism)’ 상황에서는 개별 FeAR이 0이 되어 책임을 할당할 수 없는 문제가 있었다. 이를 극복하기 위해 저자들은 먼저 FeAR의 기본 정의와 전제(그리드 월드, 17가지 속도·방향 행동, 모든 에이전트의 Move‑de‑Rigueur(MdR)인 정지 행동)를 정리한다. 이후 ‘그룹 FeAR(gFeAR)’을 정의하여, 비어 있지 않은 에이전트 집합 G가 영향을 미치는 경우와 그렇지 않은 경우의 가능한 움직임 수 차이를 정규화된 값으로 표현한다(정의 2). gFeAR은 개별 FeAR이 0이더라도 그룹 차원에서 양의 값을 가질 수 있어, 책임 공백을 메우는 핵심 지표가 된다. 다음으로 저자들은 주장적(influence) 영향을 네 가지 유형으로 구분한다. ‘단독 영향(Solo)’은 F eAR_i,j > 0인 경우, ‘중개 영향(Mediated)’은 개별 F eAR이 0이지만 특정 그룹에 i를 추가했을 때 gFeAR이 증가하는 경우, ‘결합 영향(Coupled)’은 그룹 전체가 개별적으로는 영향을 주지 않지만 집합적으로는 양의 gFeAR을 보이는 경우, 그리고 ‘중개 결합(Mediated Coupled)’은 한 그룹이 다른 그룹을 매개로 영향을 행사하는 복합 구조이다(정의 3‑6). 이러한 분류는 책임을 보다 정밀하게 추적할 수 있게 한다. 주장적 영향을 체계적으로 파악하기 위해 ‘티어링 알고리즘(Algorithm 1)’을 제시한다. 먼저 ‘예의(courteous)’ 에이전트(FeAR < 0)를 제외하고, 남은 후보군 κ_j에서 크기 k의 모든 부분집합을 순차적으로 검사한다. 현재 티어에 포함된 에이전트 집합 R_{n‑1}에 새 그룹 G를 추가했을 때 gFeAR(R_{n‑1}∪G, j) > gFeAR(R_{n‑1}, j)이면 G를 현재 티어 T_{j,n}에 할당하고 후보에서 제거한다. 이 과정을 티어가 비어 있을 때까지 반복해 최종적으로 여러 티어가 생성된다. 티어 순서는 ‘단독 > 결합 > 중개 > 중개결합’의 주장성을 반영한다. 또한 Shapley 값과 비교하여 티어링이 계산 효율성 면에서 우수함을 보인다. 실험 부분에서는 시나리오 기반 시뮬레이션을 통해 그룹 효과를 정량화한다. 두 가지 메트릭을 도입했는데, 첫째는 개별 FeAR과 그룹 FeAR이 식별한 주장적 에이전트 수 차이(Δ Assertive)이며, 둘째는 티어 순위와 Shapley 기반 순위 간의 일치도를 나타내는 Kendall’s τ이다. 실험 결과, 에이전트가 영향을 받는 대상(agent j)과 물리적으로 가까울수록 Δ Assertive가 커지고, 그룹 FeAR이 더 많은 추가 주장적 에이전트를 발견한다는 것이 확인되었다. 또한 티어 순위와 Shapley 순위 간 τ값이 높은 것으로 나타나, 티어링이 실제 기여도를 잘 반영함을 보여준다. 논의에서는 그룹 FeAR이 인과 책임을 보다 포괄적으로 포착함을 강조하고, 특히 교통·보행자 시나리오에서 다수의 보행자가 동시에 차량의 행동을 제한하는 경우에 유용함을 제시한다. 한계점으로는 현재 2‑D 격자와 제한된 행동 집합에만 적용되었으며, 연속 공간·고차원 행동, 실시간 적용 등에 대한 확장이 필요함을 언급한다. 결론에서는 그룹 기반 FeAR과 티어링 알고리즘이 책임 할당, 윤리적 설계, 법적 규제 등에 실질적인 도구가 될 수 있음을 강조한다.