데이터에 맞춘 잡음 설계로 흐름 모델 혁신

초록

본 논문은 흐름 기반 생성 모델에서 기본 가우시안 잡음 대신 1차원 양자화 함수(quantile function)를 이용해 데이터에 최적화된 잡음 분포를 학습한다. 워싱턴 거리 기반 손실로 양자화 함수를 직접 최적화함으로써 무거운 꼬리, 다중 모드, 제한 구간 등 다양한 형태의 데이터 분포를 효율적으로 표현하고, 전통적인 가우시안 기반 대비 전송 경로를 크게 단축한다. 실험 결과는 계산 비용 증가 없이 높은 유연성과 성능 향상을 입증한다.

상세 분석

이 연구는 흐름 매칭(Flow Matching, FM) 프레임워크를 기반으로 하여, 기존의 다변량 가우시안 잡음이 갖는 한계를 극복하고자 한다. 핵심 아이디어는 다변량 잡음 과정을 각 차원별 1차원 확률 과정으로 분해하고, 각 차원의 양자화 함수 Q_i 를 파라미터화한다는 점이다. 양자화 함수는 누적분포함수(CDF)의 역함수이며, 단조 증가성을 만족하면 언제든지 L2 공간에 매핑될 수 있다. 따라서 Q_i 를 유리 사분면 스플라인(rational quadratic spline) 등 연속적이고 미분 가능한 형태로 표현하면, 역전파를 통한 효율적인 학습이 가능하다.

논문은 먼저 FM의 연속 방정식과 확률 과정의 평균 복귀(mean‑reverting) 모델을 정리한다. 평균 복귀 과정 X_t = f(t)X_0 + N_{g(t)} 에서 f와 g는 스케줄링 함수이며, N_t 은 1차원 확률 과정이다. 여기서 N_t 를 양자화 함수 Q_t(U) 로 대체하면, X_t = f(t)X_0 + Q_{g(t)}(U) 라는 새로운 양자화 프로세스를 정의할 수 있다. 이때 U는