경량 재파라미터화 관성오도메트리 TinyIO

초록

TinyIO는 훈련 시 다중 브랜치 구조로 다양한 움직임 특징을 학습하고, 추론 시 동일한 기능을 유지하면서 단일 경로로 재파라미터화하여 파라미터와 연산량을 크게 감소시킨 경량 관성오도메트리 모델이다. 추가로 제안된 Dual‑Path Adaptive Attention(DPAA) 메커니즘은 채널·시간 차원에서 컨텍스트 정보를 효율적으로 강조해 정확도를 높이며, 전체 파라미터 증가량은 0.037 M에 불과하다. 실험 결과 RoNIN, RIDI, OxIOD 등 공개 데이터셋에서 기존 R‑ResNet 대비 ATE 23.53 % 감소, 파라미터 3.68 % 감소 등 경량화와 정확도 모두에서 우수한 성능을 보였다.

상세 분석

TinyIO는 관성오도메트리(IO) 분야에서 “경량화 vs. 정확도”라는 오래된 트레이드오프를 혁신적으로 해결하고자 설계된 모델이다. 핵심 아이디어는 훈련 단계와 추론 단계를 명확히 분리하는 재파라미터화(reparameterization) 전략이다. 훈련 시에는 ResNet과 유사한 멀티‑브랜치 구조를 채택해 3×1, 1×1 1D 컨볼루션 두 개와 잔차 연결(identity)로 구성된 RepBlock을 사용한다. 이는 서로 다른 수용 영역과 특징 스케일을 동시에 학습함으로써 복잡한 인간 동작 패턴을 효과적으로 포착한다. 추론 단계에서는 이 멀티‑브랜치를 수학적으로 등가인 단일 3×1 컨볼루션으로 병합한다. 이렇게 하면 파라미터 수와 FLOPs가 크게 감소하면서도 학습된 표현을 그대로 유지한다는 장점이 있다.

다음으로 제안된 Dual‑Path Adaptive Attention(DPAA)는 경량화된 컨텍스트 모델링을 목표로 한다. DPAA는 채널 어텐션과 시간 어텐션 두 경로를 별도로 구성한다. 채널 어텐션에서는 Adaptive Avg‑Pooling과 Adaptive Max‑Pooling을 통해 각 채널의 통계량을 추출하고, 공유 1D 컨볼루션(FC 대체)으로 두 통계량을 결합해 시그모이드 스케일링 벡터를 만든다. 시간 어텐션은 채널 차원을 축소한 뒤 평균·최대 통계량을 결합하고, 또 다른 1D 컨볼루션을 통해 시간 가중치를 생성한다. 최종적으로 두 어텐션 출력은 학습 가능한 스칼라 α, β 로 가중합되어 입력 피처에 적용된다. 이 설계는 기존 Transformer‑ 기반 어텐션에 비해 파라미터 증가량이 0.037 M에 불과하면서도, 채널 간 상관관계와 시간적 중요도를 동시에 포착한다.

실험에서는 RoNIN, RIDI, OxIOD, IMUNet 등 네 개의 공개 데이터셋을 사용해 광범위한 비교를 수행했다. TinyIO는 R‑ResNet 대비 ATE를 평균 22 %~60 % 감소시키고, 파라미터는 3 %~23 % 절감했다. 특히 “TinyIO‑deploy”라는 재파라미터화된 버전은 추론 시 메모리 사용량과 FLOPs가 크게 낮아 모바일 디바이스에 바로 적용 가능함을 보여준다. CDF 곡선과 PDE 지표에서도 TinyIO가 상위권을 유지한다.

한계점으로는 현재 모델이 1D 컨볼루션 기반이므로 장기적인 시계열 의존성을 완전히 포착하기 어려울 수 있다. 또한, 실험에 사용된 데이터는 주로 인간 보행 시나리오에 국한돼 있어, 급격한 회전이나 비정형 움직임에 대한 일반화 성능은 추가 검증이 필요하다. 향후 연구에서는 LSTM·Transformer와의 하이브리드 구조를 도입하거나, 멀티‑모달(예: 비전·라이다) 센서와 결합해 더욱 견고한 위치 추정 시스템을 구축할 여지가 있다.