불완전 AI 운영 신뢰도 변동과 인간 혼잡 관리

초록

본 논문은 인간‑인‑루프(HITL) 시스템에서 자동화 알고리즘의 신뢰도 변동과 인간 전문가의 제한된 처리 용량 사이의 긴장을 동적 큐잉 제어 문제로 모델링한다. 상태(대기열 길이, 신뢰도 상태)에 따라 위험 임계값을 조정하는 최적 정책을 도출하고, “용량 그림자 가격”에 의해 구동되는 임계값 정책의 두 가지 구조적 단조성(혼잡 전가와 안전 완충)을 증명한다. 또한 도착률‑드리프트 파라미터 공간에 임계점이 존재함을 보여, 이를 초과하면 무한 대기열이 발생해 안전 기준을 유지할 수 없음을 밝힌다.

상세 분석

이 연구는 HITL 서비스 운영을 연속시간 마코프 결정 프로세스(CTMDP)로 공식화하고, 균일화 기법을 이용해 이산시간 벨만 방정식으로 변환한다. 시스템 상태는 (q,θ)로 정의되는데, q는 인간 전문가 큐의 현재 백로그, θ는 자동화 모델의 신뢰도 레짐을 나타내는 마코프 체인 상태이다. 제어 변수는 위험 점수 s에 기반한 임계값 τ(q,θ)이며, 이 값보다 위험이 높으면 작업을 인간에게 에스컬레이션한다. 자동화 비용 c_auto(s,θ)는 위험 점수에 대해 엄격히 증가하고, 레짐이 악화될수록 비례적으로 상승하도록 가정한다. 또한 초모듈러성 가정은 레짐 악화가 고위험 작업에 미치는 비용 증가가 저위험 작업보다 크게 함을 보장한다. 인간 서비스 큐는 m개의 병렬 서버와 무한 버퍼를 갖는 M/M/m 모델이며, 서비스율 μ는 고정이다. 에스컬레이션 시 발생하는 직접 비용 c_h와 대기 비용을 포함한 총 비용을 최소화하는 것이 목표이며, 평균 비용 기준과 할인 비용 기준 사이의 타우베리안 정리를 이용해 최적 정책의 존재와 구조를 증명한다. 핵심 정리는 “용량 그림자 가격(Shadow Price of Capacity)”이라는 라그랑주 승수를 도입해, 최적 임계값이 현재 백로그에 대해 단조적으로 증가한다는 ‘혼잡 전가(Congestion Shedding)’와, 신뢰도 레짐이 악화될수록 임계값이 감소한다는 ‘안전 완충(Safety Buffering)’을 동시에 만족한다는 점이다. 이 두 단조성은 각각 큐가 포화될 때 정확성을 희생해 응답성을 유지하고, 드리프트 상황에서 큐를 위험 완충기로 활용해 인간 개입을 늘리는 운영 원칙을 수학적으로 정량화한다. 마지막으로 도착률 λ와 드리프트 전이율을 매개변수로 하는 2차원 파라미터 공간에서 ‘용량 위상 전이(Capacity Phase Transition)’ 곡선을 정의한다. 이 곡선 위쪽에서는 어떤 정책도 평균 대기열을 유한하게 유지할 수 없으며, 시스템은 구조적 붕괴(무한 대기열) 상태에 빠진다. 이는 실무에서 서비스 수준 협약(SLA) 위반 위험을 사전에 예측하고, 필요 시 자동화 모델 재학습이나 인력 증원을 사전에 계획하도록 하는 중요한 설계 지표가 된다.