다양성 기반 로보제네: 실세계 로봇 작업 자동 생성 프레임워크

초록

RoboGene은 LFU 기반 다양성 샘플링, 자기반성 평가, 인간‑인‑루프 피드백을 결합한 에이전트 프레임워크로, 물리적으로 실행 가능한 다양한 조작 작업을 자동으로 생성한다. 18 k개의 실험 트래젝터리를 수집하고 새로운 품질·다양성 지표를 제시해, VLA 모델 사전학습 시 성공률과 일반화 능력을 크게 향상시킨다.

상세 분석

RoboGene은 로봇 조작 데이터의 근본적인 병목인 “다양성 부족”과 “물리적 비현실성”을 동시에 해결하기 위해 세 가지 핵심 모듈을 설계하였다. 첫 번째 모듈인 다양성‑주도 샘플링은 시나리오·객체·스킬 각각에 대해 사용 빈도(u) 를 추적하고, 최소 사용 빈도를 가진 항목을 우선 선택하는 Least Frequently Used(LFU) 전략을 적용한다. 이를 통해 데이터셋이 장기적으로 균형 잡힌 분포를 유지하도록 유도한다. 두 번째 모듈인 자기반성(Self‑Reflection) 단계에서는 LLM 기반의 물리적 타당성 평가기(E_phy), 새로움 평가기(E_nov), 논리 일관성 평가기(E_con) 세 개의 전문 평가자를 동시 운영한다. 각 평가자는 제안된 작업의 운동학적 가능성, 충돌 여부, 힘·토크 제한, 그리고 시나리오와 객체 간 의미적 일관성을 검증하고, 비현실적인 요소에 대해 구체적인 비판을 반환한다. 세 번째 모듈은 인간‑인‑루프(HITL)와 장기 기억(Long‑Term Memory)이다. 평가 결과와 실제 실행 실패 사례를 메모리에 축적하고, 이후 샘플링 단계에서 히스토리 H에 반영함으로써 시스템이 지속적으로 학습한다.

알고리즘적으로는 Φ_sample → Φ_gen → Φ_refine 순서의 폐쇄 루프를 정의하고, 각 단계에서 확률적 탐색과 규칙 기반 필터링을 혼합한다. 특히, 모바일 로봇이나 듀얼 암 로봇처럼 공간 인식이 필수적인 경우 Vision‑Language Model(VLM)을 사용해 이미지 입력을 포함시켜 물리적 배치를 직접 확인한다.

실험에서는 1200개의 고유 작업을 15회씩 실행해 총 18 000개의 트래젝터리를 수집했으며, 기존 GPT‑4o·Gemini 2.5 Pro 기반 생성물과 비교해 물리적 타당성(≈ 92 % vs 78 %), 객체·스킬 다양성(객체 1.8배, 스킬 2.1배 증가) 및 전체 성공률(≈ 85 % vs 63 %)에서 현저히 우수함을 보였다. 또한, 사전학습된 VLA 모델 π₀를 RoboGene 데이터로 미세조정한 결과, 새로운 객체·조명·배경 변동에 대한 일반화 성능이 12 %~18 % 향상되었다.

이러한 결과는 로봇 데이터 수집 비용을 최소화하면서도 고품질·다양성 데이터를 자동으로 생산할 수 있음을 증명한다. 특히, LFU 기반 샘플링과 자기반성 루프가 데이터 편향을 실시간으로 교정하고, 인간 피드백이 장기 메모리에 축적돼 지속적인 개선을 가능하게 한다는 점이 혁신적이다.