멀티모달 LLM 편집을 위한 불변 궤적 학습 기반 ODEdit 프레임워크

초록

본 논문은 멀티모달 대형 언어 모델(MLLM)의 지식 편집을 ‘분포 외 일반화(OOD)’ 문제로 재정의하고, 편집 신뢰성·국소성·일반성을 동시에 만족시키는 삼중 위험(tripartite OOD risk) 최적화 기법을 제안한다. 핵심은 편집 과정에서 불변(causal) 궤적을 학습해 환경 변화에 강건하도록 하는 Edit Trajectory Invariant Learning(ETIL)이며, 총 변동(total variation) 페널티를 통해 스푸리어스 상관관계를 억제한다. 이론적 분석과 대규모 실험을 통해 ODEdit이 기존 편집 방법보다 다양한 교차‑모달 프롬프트에 대해 높은 편집 성공률과 최소한의 부작용을 보임을 입증한다.

상세 분석

ODEdit은 기존 멀티모달 LLM 편집이 파라미터‑출력 간 고정 매핑에 의존해 발생하는 일반화 한계를 ‘분포 외(OOD) 일반화’ 관점에서 접근한다. 논문은 편집 상황을 세 가지 환경—In‑distribution (IN), Semantic‑neighbor (SE), Out‑of‑distribution (OUT)—으로 구분하고, 각각에 대해 별도 위험 함수를 정의한다. Reliability Risk는 편집 대상 인스턴스에 대해 목표 출력의 로그우도 최소화로 정확한 지식 삽입을 보장한다. Locality Risk는 KL 발산을 이용해 편집 전후의 출력 분포 차이를 최소화함으로써 OUT 영역에서의 부작용을 억제한다. Generality Risk는 MMD 기반의 최대 평균 차이(MMD) 손실을 통해 IN과 SE 사이의 표현을 정렬하고, 편집된 모델이 의미적으로 인접한 프롬프트에도 일관된 답변을 생성하도록 한다.

핵심 기여는 Edit Trajectory Invariant Learning(ETIL)이다. ETIL은 IRM(불변 위험 최소화) 개념을 확장해, 환경‑인식 분류기를 도입하고, 편집 궤적이 환경 변화에 민감하게 반응하지 않도록 총 변동(total variation) 정규화를 추가한다. 이는 편집 파라미터가 다양한 시각·텍스트 조합에서 동일한 인과 구조를 유지하도록 강제한다. 최적화는 프라임‑듀얼(primal‑dual) 방식으로 수행돼, 불변 특징 추출기와 환경‑특정 분류기가 교대로 업데이트된다.

이론적으로는 편집 위험의 상한을 제시하고, 총 변동 페널티가 환경 간 변동성을 감소시켜 일반화 오차를 억제함을 증명한다. 실험에서는 최신 멀티모달 LLM(예: BLIP‑2, LLaVA 등)에 ODEdit을 적용해, 기존 파라미터‑조정 방식(Rome, MEMIT) 및 모델‑확장 방식(LoRA, 코드북) 대비 편집 성공률(Reliability)과 부작용 억제(Locality), 그리고 의미적 확장성(Generality)에서 모두 우수한 결과를 얻었다. 특히, 시각적 변형(조명, 배경 교체)이나 텍스트 재구성(동의어, 문장 구조 변화) 등 다양한 교차‑모달 변형에 대해 편집된 지식이 일관되게 유지되는 점이 눈에 띈다.

전반적으로 ODEdit은 멀티모달 LLM 편집을 ‘인과적 궤적’이라는 새로운 관점으로 재구성함으로써, 편집의 신뢰성·국소성·일반성을 동시에 만족시키는 실용적인 솔루션을 제공한다.