3D 기하 모델을 위한 꼬리 인식 사후 훈련 양자화

초록

본 논문은 대규모 3D 기하 모델을 저전력·저메모리 환경에 배치하기 위해, 기존 2D 비전 트랜스포머에 최적화된 PTQ 기법이 갖는 한계를 극복하는 Tail‑Aware Post‑Training Quantization(TAPTQ) 파이프라인을 제안한다. 핵심은 (1) 통계적 순도와 기하학적 대표성을 동시에 만족하는 초소형 캘리브레이션 샘플을 단계적 클러스터링으로 구축하는 진행형 캘리브레이션 전략, (2) 구간 탐색을 로그 시간 복잡도로 가속화하는 삼분 탐색 기반 최적화, (3) 장기 꼬리 활성값에 민감한 모듈을 자동으로 식별·보정하는 Tail Relative Error(TRE) 기반 모듈 보정이다. VGGT와 Pi3 벤치마크에서 기존 PTQ 대비 정확도 향상과 캘리브레이션 시간 단축을 입증한다.

상세 분석

TAPTQ는 3D 기하 학습 특유의 다중 뷰와 장거리 꼬리 분포를 정밀히 다루기 위해 세 가지 혁신을 결합한다. 첫 번째 단계인 ‘진보적 캘리브레이션 셋 구축’은 대규모 3D 데이터셋에서 발생하는 통계적 이질성을 완화한다. 원시 데이터는 자기지도 포인트 클라우드 인코더를 통해 고차원 특징 공간으로 매핑된 뒤, 2‑클러스터 K‑means로 대다수 정상 샘플과 소수 노이즈 샘플을 구분한다. 다수 클러스터를 선택함으로써 잡음이 제거된 ‘순수 후보 집합’이 형성된다. 이후, 목표 캘리브레이션 샘플 수 N에 맞춰 N/2개의 세부 클러스터를 재구성하고, 각 클러스터에서 중심에 가장 가까운 두 샘플을 추출한다. 이 과정은 전체 데이터의 기하학적 다양성을 보존하면서도 샘플 수를 극단적으로 축소해, 캘리브레이션 시 발생하는 범위 추정 편향을 최소화한다.

두 번째 핵심은 ‘구간 최적화의 삼분 탐색’이다. 기존 PTQ는 후보 구간 집합 A에 대해 전수 탐색을 수행해 O(N) 복잡도를 초래한다. 저자들은 구간에 대한 유사도 함수 Sim(y_FP, y_α)가 거의 단봉형(unimodal)임을 실험적으로 확인하고, 이를 기반으로 삼분 탐색을 적용한다. 구간 인덱스 범위