시계열에 적용 가능한 언제든지 유효한 컨포멀 및 PAC 예측

초록

본 논문은 데이터가 순차적으로 관측되는 환경에서, 샘플 크기가 사전에 고정되지 않아도 언제든지 (anytime‑valid) 적용 가능한 컨포멀 예측 집합과 PAC 예측 집합을 설계한다. 제안된 방법은 임의의 정지 시점에서도 명시된 커버리지 수준을 보장하며, 기존 고정‑샘플 크기 컨포멀 방법이 갖는 한계를 극복한다. 이론적 보증과 실험을 통해 제안 기법의 유효성과 효율성을 입증한다.

상세 분석

논문은 먼저 기존 컨포멀 예측이 “고정된 n”에 대해 기대 커버리지를 보장한다는 점을 지적하고, 순차적 데이터 스트림에서는 n이 사전 정의되지 않으며 분석가가 데이터에 기반해 언제든지 정지를 선택할 수 있다는 현실적인 제약을 강조한다. 이를 해결하기 위해 저자들은 “시간‑균일(time‑uniform) 컨포멀(TUC)”과 “시간‑균일 PAC(TUPAC)”이라는 두 개의 새로운 목표를 정의한다. TUC 목표는 임의의 정지 시점 T에 대해 (P(Z\in C_{T,\alpha})\ge 1-\alpha) 를 만족하도록 예측 집합을 구성하는 것이며, 이는 모든 고정‑시간 예측 집합 ({C_{t,\alpha}}_{t\ge1}) 의 최소 커버리지가 기대값 기준으로 1‑α 이상임을 의미한다(정리 1). TUPAC은 여기에 추가적인 확률 수준 δ를 도입해, “조건부 커버리지가 1‑α 이상인 사건이 최소 δ 확률로 발생한다”는 강력한 보장을 제공한다.

핵심 기술은 두 단계로 나뉜 스플릿 방식을 확장한 것이다. 첫 번째 단계에서는 고정된 비공개 데이터(또는 초기 관측)로 비컨포멀 점수를 정의하고, 두 번째 단계에서는 이 점수를 이용해 각 시점 t마다 적절한 샘플 분위수를 선택한다. 기존 스플릿 컨포멀은 각 t마다 독립적으로 분위수를 추정해 시간‑균일성을 보장하지 못하지만, 제안 알고리즘은 분위수 선택을 “시간‑균일 DKW 불평등”에 기반한 보수적인 상한으로 조정함으로써 모든 t에서 동시에 커버리지를 만족한다. 또한, 온라인 업데이트가 가능하도록 설계돼 메모리와 계산 복잡도를 크게 낮춘다.

이론적 분석에서는 마르티네즈와 하워드(2022)의 신뢰 구간(confidence sequences)을 활용해, TUC와 TUPAC 보장이 각각 기대 최소 커버리지와 확률적 커버리지를 만족함을 정리 2·3을 통해 증명한다. 특히, 정지 시점 T가 어떠한 의존 구조를 갖더라도(분포 가정 없이) 보장이 유지된다는 점이 강점이다.

실험에서는 1차원 정규분포 스트림을 이용해 스플릿 컨포멀, 스플릿 TUC, 스플릿 TUPAC, 신뢰 구간 기반 방법, 그리고 최근 제안된 SIPI를 비교한다. 결과는 스플릿 컨포멀은 시간‑균일 커버리지가 크게 떨어지는 반면, 제안된 TUC와 TUPAC은 최소 커버리지가 목표 수준을 초과함을 보여준다. 또한, 실제 데이터(예: 의료·금융·자율주행 시뮬레이션)에서도 온라인 학습과 결합된 TUC가 개념 드리프트 상황에서 빠르게 적응하며 커버리지를 회복한다는 점을 실증한다.

마지막으로, 제안 방법이 오라클(모델이 알던 분포) 예측 구간의 폭에 점근적으로 수렴함을 증명해 최적성도 확보한다. 전체적으로 이 논문은 순차적 의사결정 환경에서 실용적인 불확실성 정량화 도구를 제공하며, 기존 컨포멀·PAC 프레임워크를 시간‑균일 버전으로 일반화한 중요한 기여를 한다.