이미지 픽셀로부터 딥 동적 모델 학습

본 논문은 고차원 이미지 시퀀스로부터 시스템의 동적 모델을 식별하는 새로운 방법론을 제시한다. 전통적인 시스템 식별은 상태와 관측 사이의 선형 혹은 비선형 매핑을 찾는 것이 핵심이지만, 이미지와 같은 고차원 데이터에서는 직접적인 매핑이 어려워진다. 이를 해결하기 위해 저자들은 딥 오토인코더와 비선형 전이 모델을 결합한 통합 프레임워크를 설계한다. 오토인코더는 인코더 g⁻¹와 디코더 g로 구성되며, 각각 여러 층의 비선형 변환을 통해 입력 이미지 yₜ를 저차원 특징 zₜ로 압축하고, 다시 복원한다. 재구성 손실 ε_R은 원본 이미지와 복원 이미지 사이의 차이를 최소화하도록 설계되며, 이는 잠재공간이 원본 데이터의 주요 구조를 보존하도록 강제한다. 잠재공간에서의 동적 전이는 NARX 형태로 모델링된다. 과거 n개의 특징과 제어 입력을 사용해 현재 특징을 예측하는 함수 l(·; θ_M)을 신경망으로 구현한다. 예측된 특징은 디코더를 통해 이미지 공간으로 복원되어 최종 예측 이미지 ŷ_yₜ|ₜ₋₁을 만든다. 예측 손실 ε_P는 실제 이미지와 예측 이미지 사이의 차이이며, 로그 평균 제곱 오차 V_P로 정량화한다. 학습 전략은 두 가지로 나뉜다. 별도 학습에서는 먼저 오토인코더를 재구성 손실만 최소화해 학습하고, 고정된 인코더·디코더를 사용해 전이 모델을 학습한다. 반면 공동 학습은 V_R과 V_P를 동시에 최소화하는 단일 목표 함수를 정의하고, 전체 파라미터(θ_E, θ_D, θ_M)를 역전파와 BFGS 최적화를 통해 동시에 업데이트한다. 공동 학습은 특징 추출과 동적 모델링이 서로 영향을 주어, 더 일관된 잠재공간을 형성한다는 장점이 있다. 초기화 단계에서는 오토인코더를 선형 활성화와 단일 층으로 제한했을 때 PCA와 동일하다는 사실을 이용한다. 각 층 쌍에 대해 PCA를 수행해 가중치를 초기화함으로써, 비선형 학습이 시작될 때 좋은 시작점을 제공한다. 이는 학습 안정성과 수렴 속도를 향상시킨다. 실험은 두 가지 시나리오에서 수행되었다. 첫 번째는 1‑링크 로봇 팔(펜듈럼)이며, 토크를 제어 입력으로 사용한다. 두 번째는 2D 평면에서 움직이는 물체이며, 속도가 제어 입력이다. 두 경우 모두 51×51 픽셀의 회색조 이미지가 사용되었으며, PCA를 통해 차원을 50으로 사전 축소한 뒤 오토인코더(50‑25‑12‑6‑2)와 전이 모델(6‑4‑2)을 학습했다. 평가 지표는 장기 예측 정확도와 재구성 오류이다. 결과는 공동 학습이 별도 학습에 비해 V_P가 -6.91에서 -5.12로 크게 개선되고, V_R도 비슷한 수준으로 유지됨을 보여준다. 이는 잠재공간에서 학습된 전이 모델이 픽셀 수준의 장기 예측에 직접적인 이점을 제공한다는 것을 의미한다. 또한, 예측 오류가 감소함에 따라 실제 로봇 제어나 비디오 기반 제어 시스템에서 요구되는 정확한 미래 상태 추정이 가능해진다. 결론적으로, 이 논문은 (1) 고차원 이미지 데이터를 저차원 잠재공간으로 효율적으로 압축하는 딥 오토인코더, (2) 그 잠재공간에서 비선형 동적 전이를 학습하는 NARX 기반 전이 모델, (3) 두 구성 요소를 공동 학습함으로써 더 나은 일반화와 예측 성능을 달성하는 프레임워크를 제시한다. 이러한 접근은 로봇 비전, 비디오 기반 제어, 뇌‑컴퓨터 인터페이스 등 고차원 관측을 기반으로 한 시스템 식별 문제에 널리 적용될 수 있다.