시간점과정 편집 흐름 매칭: 삽입·삭제·대체 기반 비자율 생성 모델

초록

본 논문은 연속시간 점과정(TPP)을 위한 새로운 비자율 생성 프레임워크인 EDIT‑PP를 제안한다. 삽입, 삭제, 대체라는 세 가지 원자적 편집 연산을 연속시간 마코프 연쇄(CTMC)로 모델링하여, 노이즈 시퀀스에서 데이터 시퀀스로의 흐름을 효율적으로 학습한다. 실험 결과, 무조건 및 조건부 생성 모두에서 기존 최첨단 방법들을 능가한다.

상세 분석

EDIT‑PP는 기존 TPP 모델링의 두 가지 큰 한계를 동시에 해소한다. 첫째, 전통적인 자기회귀 방식은 이벤트를 순차적으로 샘플링해야 하므로 시퀀스 길이에 비례해 시간 복잡도가 증가하고, 다단계 샘플링 시 오류가 누적된다. 둘째, 최근 확산 기반 비자율 모델인 ADDTHIN·PSDIFF은 삽입·삭제만을 이용해 노이즈와 데이터를 연결하지만, 여전히 많은 편집 단계가 필요해 효율성이 떨어진다. EDIT‑PP는 이러한 문제를 ‘편집 흐름(Edit Flow)’ 개념으로 확장한다. 연속시간 마코프 연쇄를 이용해 삽입(ins), 삭제(del), 대체(sub) 세 가지 연산을 정의하고, 각 연산에 대한 순간 속도 λ_ins, λ_del, λ_sub를 신경망으로 파라미터화한다. 삽입은 두 인접 이벤트 사이를 균등하게 구간(b_ins)으로 나누어 그 안에 새로운 이벤트를 삽입하는 방식이며, 대체는 기존 이벤트를 작은 범위(δ) 내에서 이동시키는 형태로 구현한다. 이때 균등 디퀀티제이션(α∼U(0,1))을 도입해 연속적인 시간값을 이산적인 bin에 매핑함으로써 미분 가능성을 확보한다. 삭제는 단순히 해당 이벤트를 제거한다. 중요한 설계 원칙은 ‘유일성’이다; 두 시퀀스가 정확히 하나의 편집으로 변환될 경우 해당 연산이 유일하게 결정된다. 이는 학습 시 Bregman 발산 기반 손실식(식 5)을 단순화시켜 연산별 확률을 직접 추정할 수 있게 만든다.

학습을 위해 저자들은 보조 정렬 공간(Z)을 도입한다. 원본 시퀀스 t₀와 목표 시퀀스 t₁을 각각 z₀, z₁으로 매핑하고, Needleman‑Wunsch 알고리즘을 활용해 최소 비용 정렬을 구한다. 비용 함수는 삽입·삭제·대체 각각에 대해 δ² 혹은 무한대 값을 부여해, 정렬 결과가 정의한 편집 연산과 정확히 일치하도록 설계되었다. 이렇게 얻어진 (z₀, z₁) 쌍은 element‑wise mixture path p_s(z_s|z₀,z₁) 를 통해 연속적인 편집 흐름을 생성하고, 이를 다시 원래 시퀀스 공간 X_T 로 투사한다.

모델은 무조건(unconditional) 학습으로 전체 데이터 분포를 학습하지만, 조건부 생성도 간단히 구현할 수 있다. 예를 들어, 특정 시작 이벤트나 외부 컨텍스트를 고정하고 나머지 이벤트를 편집 흐름에 따라 샘플링하면, 조건부 예측이나 시계열 보강 등에 활용 가능하다. 실험에서는 합성 Hawkes 프로세스, 금융 거래 데이터, 의료 기록 등 다양한 벤치마크에서 기존 확산 기반 모델(ADDTHIN, PSDIFF)과 전통적인 자기회귀 TPP(RNN‑TPP, Transformer‑TPP)를 능가하는 로그우도와 샘플링 속도를 보였다. 특히 편집 단계 수가 평균 30% 감소했으며, 이는 연산 비용 절감과 샘플링 지연 감소로 직결된다.

전체적으로 EDIT‑PP는 연속시간 점과정에 대한 ‘집합적(interpolative) 흐름 매칭’을 최초로 구현했으며, 편집 연산의 이산적 정의와 연속시간 마코프 연쇄의 결합을 통해 효율성과 표현력을 동시에 확보했다. 향후 확장 가능성으로는 다변량 이벤트(시간·마크 동시) 모델링, 복합 조건부 제어(예: 목표 이벤트 수 제한) 및 실시간 시뮬레이션 시스템에의 적용이 기대된다.