동적 시각 손상 상황에서 비전언어 모델 견고성 평가를 위한 DIQH 벤치마크

초록

비전‑언어 모델(VLM)이 자율주행과 같은 안전‑중요 애플리케이션에 적용되려면, 연속적인 영상 스트림을 불완전한 조건에서도 안정적으로 처리해야 한다. 기존 벤치마크는 정적인 고품질 이미지에만 초점을 맞추어, 일시적인 시각 손상이 이후 프레임에까지 영향을 미치는 오류 전파·환각 현상을 간과한다. 본 연구는 이러한 결함을 포착하기 위해 최초로 동적 시각 손상(Dynamic Visual Degradation) 상황을 시뮬레이션하는 DIQH 벤치마크를 제안한다. 물리 기반의 손상(모션 블러, 센서 노이즈, 압축 아티팩트 등)을 적용하고, 다중 턴 질문‑답변 과제를 통해 환각 지속성, 오류 복구율, 시간적 일관성을 측정한다. 대규모 라벨링 비용을 절감하기 위해 불확실성 기반 반복 정제(UIR) 방식을 도입했으며, 경량 VLM으로부터 불확실성이 낮은 예측을 필터링해 신뢰할 수 있는 의사‑정답을 생성한다. UIR을 적용하면 정확도가 15.3 % 향상되는 효과를 보였다. 16개의 최신 VLM을 평가한 결과, 최고 성능 모델인 GPT‑4o조차도 복구율이 78.5 %에 불과했고, 오픈소스 모델은 시간적 일관성 점수가 60 % 이하로 크게 뒤처졌다. DIQH는 실세계 배포 환경에서 VLM의 신뢰성을 정량화하고 향상시키기 위한 포괄적인 평가 플랫폼을 제공한다.

상세 요약

본 논문이 제시하는 DIQH 벤치마크는 비전‑언어 모델의 실용성을 평가하는 패러다임을 크게 전환한다는 점에서 학술적·산업적 의의가 크다. 기존 이미지‑기반 테스트는 정적인 정밀도만을 측정했지만, 실제 자율주행 차량이나 로봇 시스템은 연속적인 프레임 스트림을 처리하면서 센서 노이즈, 급격한 조명 변화, 압축 손실 등 다양한 물리적 왜곡에 노출된다. 이러한 동적 환경에서는 일시적인 오류가 누적되어 ‘환각’이라 불리는 잘못된 인식이 지속될 위험이 있다. DIQH는 물리 기반 손상을 시뮬레이션하고, 다중 턴 Q&A 형식으로 모델이 시간에 따라 어떻게 오류를 복구하거나 악화시키는지를 정량화한다는 점에서 기존 정적 벤치마크와 차별화된다.

특히, ‘환각 지속성(Hallucination Persistence)’과 ‘오류 복구율(Error Recovery)’이라는 두 축을 도입해 모델이 한 프레임에서 발생한 오류를 이후 프레임에서 스스로 교정할 수 있는지를 측정한다. 이는 실제 시스템에서 안전성을 확보하기 위해 필수적인 ‘자기‑수정 능력’과 직결된다. 또한 ‘시간적 일관성(Temporal Consistency)’ 지표를 통해 연속적인 답변 간의 논리적 연속성을 평가함으로써, 모델이 단일 이미지에 국한되지 않고 시퀀스 전체를 이해하고 있는지를 검증한다.

데이터 라벨링 비용을 크게 낮추기 위해 제안된 Uncertainty‑Guided Iterative Refinement(UIR) 방식도 주목할 만하다. 경량 VLM을 활용해 예측의 불확실성을 추정하고, 불확실성이 낮은 샘플만을 의사‑정답으로 채택함으로써 인간 라벨러 없이도 고품질의 pseudo‑ground‑truth를 생성한다. 실험 결과 15.3 %의 정확도 향상이 확인됐으며, 이는 라벨링 비용 대비 효율적인 품질 향상 전략으로 활용 가능하다.

실험에서는 16개의 최신 VLM을 대상으로 DIQH를 적용했으며, GPT‑4o와 같은 최첨단 상용 모델조차도 78.5 %의 복구율에 머물렀다. 오픈소스 모델들의 경우 시간적 일관성 점수가 60 % 이하로, 실시간 시스템에 적용하기엔 아직 큰 격차가 존재한다는 것을 보여준다. 이는 현재 VLM이 정적 이미지 인식에서는 뛰어난 성능을 보이지만, 동적 환경에서의 오류 전파와 자기‑수정 메커니즘이 충분히 갖추어지지 않았음을 시사한다.

한계점으로는 물리 기반 손상이 실제 센서 특성을 완벽히 재현하지 못할 가능성, 그리고 다중 턴 Q&A 설계가 특정 도메인(예: 교통 표지판)에 편향될 위험을 들 수 있다. 향후 연구에서는 실제 차량에 장착된 카메라 데이터로 손상 모델을 보정하고, 다양한 도메인(의료 영상, 감시 카메라 등)으로 확장하는 것이 필요하다. 또한, UIR의 불확실성 추정 방법을 베이지안 딥러닝이나 앙상블 기법과 결합해 더욱 정교한 pseudo‑ground‑truth 생성 체계를 구축할 여지가 있다.

결론적으로 DIQH는 VLM의 시간적 견고성을 체계적으로 측정할 수 있는 최초의 벤치마크이며, 향후 안전‑중요 애플리케이션에 대한 모델 선택·개선 기준을 제공한다. 연구자와 엔지니어는 이를 활용해 동적 환경에 특화된 학습·정제 전략을 설계하고, 실제 시스템에 배포하기 전 신뢰성을 검증할 수 있을 것이다.