퍼포머티브 예측 종합 조사

초록

본 설문은 퍼포머티브 예측(performative prediction)의 기본 개념, 분포 지도(distribution map)의 역할, 최적화 목표인 퍼포머티브 안정성(stability)과 퍼포머티브 최적성(optimality)을 정리한다. 또한 분포 지도에 대한 정보 접근 정도에 따라 문제를 분류하고, 기존 구현·알고리즘을 체계적으로 정리한다. 마지막으로 이 분야와 공정성, 적대적 공격, 알고리즘적 구제 등 다른 머신러닝 분야와의 연결 고리를 제시한다.

상세 분석

퍼포머티브 예측은 모델을 배포하면 그 모델 자체가 환경을 변화시켜 데이터 분포가 이동한다는 가정에 기반한다. 이 변화는 “분포 지도”(distribution map) D(·)라는 함수로 수학적으로 표현되며, 파라미터 θ를 입력받아 새로운 데이터 분포 D(θ)를 반환한다. 핵심 문제는 초기 분포 D_init에서 학습된 모델 θ_init이 D(θ_init)에서 높은 위험(risk)을 가질 가능성이 크다는 점이다. 따라서 전통적인 경험적 위험 최소화(ERM)와는 다른 두 가지 최적화 목표가 등장한다.

1. 퍼포머티브 안정성(θ_PS): θ_PS는 자신이 만든 분포 D(θ_PS)에서 위험을 최소화하는 고정점이다. 즉, g(θ)=arg min_{θ′} Risk(θ′, D(θ))의 고정점으로, 반복적 베스트‑리스폰스 절차를 통해 수렴한다. 강한 볼록성 및 리프시츠 연속성 같은 가정이 있으면 수렴이 보장된다.

2. 퍼포머티브 최적성(θ_PO): θ_PO는 전체 퍼포머티브 위험 PR(θ)=Risk(θ, D(θ))을 전역적으로 최소화한다. 이는 일반적으로 고정점이 아니며, 최적점이 안정점과 겹치지 않을 수도 있다. 전역 최적성을 달성하려면 분포 지도 전체를 탐색하거나, PR이 볼록한 경우에만 효율적인 최적화가 가능하다.

논문은 분포 지도에 대한 정보 접근성을 세 단계로 구분한다. (i) 샘플 기반: D(θ)에 대한 직접 관측 샘플만 이용, (ii) 모델 기반: 파라미터와 분포 사이의 함수 형태를 가정하고 추정, (iii) 완전 지식: D(·)를 정확히 알거나 강력한 구조적 가정을 두는 경우다. 정보가 풍부할수록 최적화 알고리즘은 더 정교해질 수 있다.

알고리즘적 접근은 크게 두 축으로 나뉜다. 첫 번째는 반복적 베스트‑리스폰스(Iterative Best Response) 혹은 고정점 찾기 방법으로, 안정점을 빠르게 찾을 수 있지만 최적성을 보장하지 않는다. 두 번째는 퍼포머티브 위험 직접 최소화(Direct Minimization of PR)로, 메타‑최적화, 정책 그라디언트, 혹은 베이즈 최적화와 같은 고차원 최적화 기법을 활용한다. 전자는 볼록성 가정 하에 선형 수렴을 보이며, 후자는 비볼록 상황에서도 전역 최적점에 근접할 가능성을 제공한다.

또한 논문은 퍼포머티브 예측이 기존 연구와 교차하는 영역을 폭넓게 제시한다. 적대적 공격은 공격자가 입력을 조작해 모델 출력을 바꾸는 것이며, 이는 분포 지도 D(θ)에서 특정 방향으로 이동시키는 행위와 동일시될 수 있다. 알고리즘적 구제(recours)는 최소 변형으로 원하는 결과를 얻기 위해 입력을 바꾸는 문제와 연결된다. 공정성 연구에서 장기적인 정책 효과가 인구 특성을 변화시켜 미래 데이터 분포를 바꾸는 현상도 퍼포머티브 예측의 한 형태이다. 이러한 연결 고리는 퍼포머티브 예측이 단순히 새로운 문제 정의가 아니라, 여러 머신러닝 분야의 근본적인 가정을 재검토하게 만든다는 중요한 통찰을 제공한다.

마지막으로, 상태 비의존적 모델(현재 논문에서 다루는 기본 설정)과 달리 상태 의존적 퍼포머티브 예측(stateful PP)도 존재한다. 여기서는 이전 배포 이력이나 환경 상태가 다음 배포에 영향을 미치며, 전통적인 마코프 결정 과정(MDP)과 유사한 구조를 가진다. 이러한 확장은 향후 연구가 강화학습, 다중 에이전트 시스템, 그리고 정책 설계와 어떻게 통합될 수 있는지를 제시한다.