시간 일관성을 보장하는 연속 잠재 행동 흐름 매칭 기반 로봇 조작 정책

초록

CoLA‑Flow Policy는 로봇 장기 조작을 위해 행동을 연속적인 잠재 공간에 인코딩하고, 해당 잠재 공간에서 흐름 매칭을 수행한다. 3D 포인트 클라우드와 손목 카메라 영상으로 장면을 인식하고, FiLM 방식으로 실행 시 시각 정보를 조건화한다. 한 번의 ODE 통합으로 전체 행동 궤적을 생성해 추론 지연을 최소화하면서, 잠재 궤적이 시간적으로 부드러워 실행 안정성을 크게 향상시킨다. 실험은 시뮬레이션과 실제 로봇에서 기존 흐름 기반 및 확산 기반 정책보다 추론 속도·궤적 매끄러움·성공률 모두 우수함을 보여준다.

상세 분석

본 논문은 장기 로봇 조작에서 “표현력·실시간 추론·안정적 실행”이라는 세 축을 동시에 만족시키기 어려운 기존 생성 정책들의 한계를 정확히 짚고, 이를 해결하기 위한 새로운 프레임워크인 CoLA‑Flow Policy를 제안한다. 핵심 아이디어는 행동 시퀀스를 고차원 원시 액션 공간이 아닌, 연속적인 잠재 행동 공간에 매핑한 뒤, 그 잠재 공간에서 흐름 매칭(flow matching)을 수행한다는 점이다.

첫 번째 기여는 잠재 행동 표현이다. 행동을 일정 길이의 청크로 나눈 뒤, 경량 컨볼루션으로 청크 특징을 추출하고 GRU 기반 인코더에 순차적으로 입력한다. 이 과정은 시간적 연속성을 강제하는 인덕티브 바이어스를 제공해, 잠재 벡터가 고주파 잡음을 억제하고 부드러운 궤적을 형성하도록 만든다. 또한 변분 정규화(KL 다이버전스)를 적용해 잠재 분포를 표준 정규분포에 맞추어, 시연 데이터의 노이즈에 강인한 압축 표현을 얻는다.

두 번째는 잠재 공간 흐름 매칭이다. 기존 흐름 기반 정책이 원시 액션에 직접 적용될 경우, 작은 모델링 오차가 ODE 적분 과정에서 증폭돼 진동·불안정성을 초래한다. 반면, CoLA‑Flow는 잠재 공간이 이미 부드럽고 연속적이므로, 시간‑의존 벡터 필드 νθ(t,z)를 학습해 단일 ODE 스텝(또는 일회성 변환)만으로 목표 잠재 분포로 이동한다. 여기서 일관성 흐름 매칭(consistency flow matching)과 시간‑스케일 정규화 c(t)=1/√(t²+(1−t)²)를 도입해 학습 안정성을 높이고, t가 1에 가까워질수록 업데이트 크기를 감소시켜 수렴 근처에서의 과도한 변화를 방지한다. 결과적으로 “one‑shot” 추론이 가능해 실시간 제어에 적합한 밀리초 수준의 지연을 달성한다.

세 번째는 기하학‑인식 3D 장면 조건화이다. 전역 깊이 카메라에서 얻은 포인트 클라우드를 FPS로 샘플링하고, 로컬·센터 두 브랜치 인코더를 통해 다중 스케일 기하 정보를 추출한다. 로컬 인코더는 이웃 점들의 상대적 오프셋을 잔차 컨볼루션으로 집계해 접촉 수준의 세밀한 형상을 포착하고, 센터 인코더는 전체 장면 레이아웃을 경량 MLP로 요약한다. 이렇게 얻은 3D 특징은 잠재 흐름 네트워크에 concat 형태로 제공돼, 환경에 맞는 궤적을 생성하도록 돕는다.

네 번째는 실행‑시점 멀티모달 조절이다. 손목에 장착된 카메라 영상은 사전 학습된 ResNet‑18 로 인코딩된 뒤, FiLM 레이어를 통해 디코더에 주입된다. 이 설계는 잠재 궤적 생성 단계와 시각 기반 미세 조정 단계를 명확히 분리함으로써, 잠재 플래닝은 변하지 않으면서도 실행 중에 관측된 변화를 즉시 반영할 수 있게 한다.

실험에서는 6개의 시뮬레이션 과제(조립·삽입·스택 등)와 실제 로봇(UR5e + 2‑Finger Gripper)에서 3개의 장기 조작 시나리오를 평가한다. 주요 결과는 다음과 같다. (1) 추론 단계가 단일 ODE 평가만으로 이루어져, 확산 기반 정책 대비 10배 이상 빠른 속도(≈5 ms) 를 기록한다. (2) 잠재 공간에서 흐름을 적용함으로써 궤적 매끄러움 지표(Jerk, Smoothness)를 최대 93.7 % 개선하고, 원시 액션 흐름 기반 베이스라인 대비 성공률을 평균 25 % 상승시켰다. (3) Ablation에서 GRU‑인코더를 제거하거나 KL 정규화를 생략하면 궤적 진동이 급증하고 성공률이 크게 떨어짐을 확인했다. (4) 3D 조건화 없이도 기본 흐름 매칭은 동작하지만, 복잡한 장면(다중 물체·장애물)에서는 성공률이 12 % 이하로 감소한다.

한계점으로는 (i) 잠재 차원 선택이 과소/과다일 경우 표현력 손실 혹은 학습 불안정이 발생할 수 있고, (ii) 현재는 시각 정보만을 FiLM으로 활용했으며, 촉각·힘 센서와 같은 고주파 피드백을 통합하면 더욱 견고한 제어가 가능할 것으로 보인다. 향후 연구에서는 잠재 공간을 자기‑지도식으로 확장하고, 다중 로봇 협업 시나리오에 대한 확장성을 검증할 계획이다.

요약하면, CoLA‑Flow Policy는 “잠재 행동 흐름 매칭 + 기하학·시각 조건화”라는 세 가지 핵심 요소를 결합해, 장기 로봇 조작에서 고속 추론과 부드러운 실행을 동시에 달성한 혁신적인 접근법이라 할 수 있다.