모프: 물리 제약 없는 인간 동작 생성 최적화 프레임워크

초록

모프는 기존 모션 생성기가 만든 대규모 잡음 동작을 활용해 물리 시뮬레이터 안에서 모션 모방 학습을 수행한다. 강화학습 기반 모션 이터레이터와 사전 보상 모듈을 결합해 물리적 오류(발 슬라이딩·부동·관절 침투 등)를 크게 감소시키고, 정제된 동작으로 생성기를 재학습시켜 텍스트‑투‑모션·뮤직‑투‑댄스 전반에 걸쳐 물리적 타당성과 시각적 품질을 동시에 향상시킨다.

상세 분석

모프는 “모션 프리(Motion‑Free)”라는 역설적인 개념을 도입한다. 여기서 ‘프리’는 실제 인간 모션 데이터를 필요로 하지 않는다는 의미이며, 대신 사전 학습된 생성기(예: Diffusion, Autoregressive, Masked 모델)에서 생성된 대량의 잡음 데이터를 활용한다. 이 잡음 데이터는 물리적 제약을 무시하기 때문에 발이 땅에 붙지 않거나 몸이 떠 있는 등 비현실적인 현상이 빈번히 발생한다.

모프의 핵심은 두 단계 협업 학습이다. 1단계에서는 Motion Physics Refinement(MPR) 모듈이 잡음 데이터를 물리 시뮬레이터(예: MuJoCo, PhysX) 안에서 모방한다. 여기서 사용되는 Motion Imitator는 Proximal Policy Optimization(PPO) 기반 정책으로, 상태는 입력 잡음 포즈와 현재 시뮬레이션 포즈 간의 회전·위치·속도·각속도 차이를 포함한다. 행동은 PD 컨트롤러의 목표 관절 각도로 정의되어, 물리 엔진이 직접 토크를 계산하도록 만든다. 보상은 세 부분으로 구성된다. (1) Mimic Reward는 입력과 시뮬레이션 포즈 간 차이를 지수 함수 형태로 penalize하여 정밀한 모방을 유도한다. (2) Energy Penalty는 과도한 토크와 각속도를 억제해 비현실적인 급격한 움직임을 방지한다. (3) Prior Reward는 Motion VAE가 학습한 데이터 분포와의 유사성을 측정해, 순수 물리 기반 보상만으로는 얻기 힘든 인간스러운 움직임을 보강한다. VAE는 잡음 데이터 자체를 학습해 빠르게 분포를 파악하고, KL‑다이버전스와 재구성 손실을 최소화한다. 이렇게 설계된 보상 구조는 물리적 제약을 만족하면서도 인간 동작의 자연스러운 흐름을 유지한다는 장점을 가진다.

2단계에서는 MPR이 생성한 물리적으로 정제된 동작을 이용해 원래의 Motion Generator를 fine‑tune한다. 이 과정은 생성기의 파라미터를 물리적으로 타당한 데이터에 맞추어 재조정함으로써, 추후 inference 시 물리 오류가 최소화된 고품질 동작을 직접 출력하도록 만든다.

실험에서는 텍스트‑투‑모션과 뮤직‑투‑댄스 두 도메인에서 Diffusion(MDM), Autoregressive(T2M‑GPT), Masked(MoMask) 모델을 각각 적용했다. 정량 지표(FID, Diversity, Physical Error Rate)와 정성 평가에서 모두 기존 방법 대비 발 슬라이딩·부동·관절 침투 비율을 70% 이상 감소시키면서, 시각적 품질은 유지 혹은 소폭 향상되었다. 또한 물리 최적화를 매 inference 단계마다 수행하지 않아 실시간 응용에서도 효율성을 확보했다.

강점으로는 (1) 실제 모션 캡처 데이터 없이도 물리 최적화를 학습할 수 있다는 확장성, (2) 다양한 생성 모델과 태스크에 모델‑아그노스틱하게 적용 가능함, (3) 물리 시뮬레이션과 RL을 결합한 보상 설계가 물리 오류와 인간스러움을 동시에 최소화한다는 점이다. 한계점은 (1) 시뮬레이터와 RL 학습 비용이 초기 단계에서 상당히 높으며, (2) 잡음 데이터의 품질에 따라 MPR의 학습 효율이 달라질 수 있다. 향후 연구에서는 더 가벼운 물리 엔진이나 모델‑프리 강화학습 기법을 도입해 학습 비용을 감소시키고, 잡음 데이터에 대한 자동 정제(예: 노이즈 필터링) 메커니즘을 추가하면 더욱 견고한 시스템이 될 것이다.