시맨틱 중첩 이분법 융합 기반 OOD 탐지

초록

본 논문은 건축 양식 분류 시스템인 MonuMAI에 적용된 SeNeDiF‑OOD라는 새로운 OOD 탐지 프레임워크를 제안한다. 입력을 의미론적 추상화 수준별로 계층화된 이분법 노드에 전달해 각 단계에서 전용 검출기를 결합함으로써, 저품질 이미지, 비건축 이미지, 미지원 양식, 적대적 공격 등 다양한 OOD 유형을 효과적으로 구분한다. 실험 결과, 기존 단일 스코어 기반 모델에 비해 OOD 차단율이 크게 향상되면서도 인‑디스트리뷰션 성능은 유지된다.

상세 분석

SeNeDiF‑OOD는 ‘Semantic Nested Dichotomy Fusion’이라는 이름 그대로, 전통적인 중첩 이분법(Nested Dichotomy) 구조에 의미론적 계층을 부여하고, 각 노드에서 서로 다른 검출 메커니즘을 융합한다는 점에서 혁신적이다. 먼저, OOD 문제를 “다중 클래스 분류”와 유사하게 바라보아, 각 OOD 유형을 하나의 클래스처럼 취급한다. 이를 위해 전체 클래스 집합을 의미론적 추상화 수준에 따라 여러 단계로 나누고, 각 단계마다 이진 분류기를 학습한다. 예를 들어 최상위 노드는 ‘건축물 여부’를 판단하고, 다음 단계는 ‘지원되는 양식인지’를 검사한다. 하위 단계에서는 ‘세부 양식 구분’이나 ‘이미지 품질’ 등을 검증한다.

각 이진 노드에서는 단순 Softmax 확률 외에도 Mahalanobis 거리, 재구성 오차, 에너지 기반 스코어 등 서로 다른 OOD 검출 기법을 선택적으로 적용한다. 이렇게 하면 “넓은 의미론적 경계”에서는 강건한 거리 기반 방법을, “세밀한 양식 구분”에서는 모델 내부 활성화 기반 스코어를 활용해 오류 전파를 최소화한다. 또한, 각 노드에서 얻은 이진 판정 결과를 확률적으로 결합(fusion)하여 최종 OOD 스코어를 산출한다. 이 과정은 베이지안 관점에서 각 단계의 사전 확률을 반영하므로, 인간 전문가가 정의한 의미론적 계층 구조와 모델이 학습한 데이터‑드리븐 특성이 자연스럽게 조화된다.

논문은 이론적 분석을 통해, 계층적 이진 분류가 다중 클래스 OOD 탐지보다 학습 복잡도가 O(k)에서 O(log k)로 감소하고, 각 단계별 오류가 독립적으로 제한될 수 있음을 증명한다. 특히, 중첩 이분법의 트리 구조가 사전에 정의된 의미론적 계층과 일치할 경우, 분할 선택 전략(random, balanced, performance‑based)보다 의미론적 일관성이 성능 향상에 더 크게 기여한다는 실험적 근거를 제시한다.

MonuMAI 사례 연구에서는 실제 사용자 업로드 이미지 4,000여 장을 수집하고, 이를 ‘비건축’, ‘저품질’, ‘미지원 양식’, ‘적대적 공격’ 등 5가지 OOD 카테고리로 라벨링하였다. 기존 MonuMAI 모델은 단일 Softmax 스코어 기반 OOD 판정으로 평균 27%의 오탐률을 보였지만, SeNeDiF‑OOD는 동일 조건에서 오탐률을 8% 이하로 낮추었다. 특히 최상위 노드에서 비건축 이미지를 95% 이상 정확히 차단했으며, 하위 노드에서는 미지원 양식과 적대적 변형을 각각 92%·89%의 정밀도로 구분하였다. 인‑디스트리뷰션 이미지에 대한 정확도는 93.4%로 기존 92.7%와 비교해 유의미하게 유지되었다.

이와 같이 SeNeDiF‑OOD는 OOD 탐지를 ‘단일 스코어’가 아닌 ‘의미론적 체크포인트 연쇄’로 재구성함으로써, 다양한 OOD 유형을 단계별로 특화된 검출기로 처리한다. 이는 시스템 해석성을 높이고, 오류 원인 진단 및 데이터 수집 전략 수립에 직접적인 인사이트를 제공한다는 점에서 실용적 가치가 크다. 또한, 최종 레이어를 새로운 클래스 탐지를 위한 액티브 러닝 트리거로 활용할 수 있어, 지속적인 모델 업데이트 파이프라인과도 자연스럽게 연계될 수 있다.