설명 가능한 다중 작업 유사도 측정 ALE와 가중 프레셰 거리 통합

초록

본 논문은 멀티태스크 학습에서 작업 간 유사성을 설명 가능한 방식으로 정량화한다. 각 작업에 대해 누적 지역 효과(ALE) 곡선을 추출하고, 데이터 분포 가중치를 적용한 프레셰 거리로 비교한다. 특징 중요도와 예측 성능 스케일링을 반영해 모델‑불가지론적 유사도 지표를 정의하고, 합성·실제 데이터셋 4개에 적용해 직관적 결과를 확인한다.

상세 분석

이 연구는 멀티태스크 학습(MTL)에서 “어떤 작업이 서로 비슷한가?”라는 질문에 답하기 위해 XAI 기법인 누적 지역 효과(ALE)와 프레셰 거리(Frechet distance)를 결합한 새로운 유사도 측정법을 제안한다. 먼저 각 작업별로 학습된 모델을 이용해 ALE 곡선을 생성한다. ALE는 특정 피처가 예측에 미치는 평균적인 국부 효과를 누적해 보여주므로, 피처별 영향력을 전역적으로 파악할 수 있다. 논문은 ALE 곡선을 단순히 시각화하는 데 그치지 않고, 두 작업의 동일 피처에 대한 ALE 곡선들을 정량적으로 비교한다.

비교 방법으로는 프레셰 거리를 선택했는데, 이는 곡선의 위치뿐 아니라 점들의 순서(시간적 흐름)를 동시에 고려한다. 기존의 Hausdorff 거리와 달리 프레셰 거리는 “개와 주인” 비유처럼 두 곡선을 동시에 따라가며 최소한의 ‘리시’를 구한다. 여기서 저자들은 이산 프레셰 거리의 변형을 사용해 계산 복잡도를 O(pq)로 유지하면서, 각 구간의 거리 합을 사용해 전체 차이를 누적한다.

또한 데이터 분포 가중치를 도입한다. 각 피처의 값이 많이 등장하는 구간에 더 큰 가중치를 부여함으로써, 드물게 나타나는 이상치 구간이 전체 유사도에 과도히 영향을 미치는 것을 방지한다. 피처 중요도(FI) 역시 가중치에 포함되어, 모델이 해당 피처를 얼마나 의존하는지를 반영한다. FI는 선형 회귀, 랜덤 포레스트, SHAP 등 다양한 방법으로 추정 가능하며, 모든 작업에 대해 합계가 1이 되도록 정규화한다.

예측 성능 차이를 보정하기 위해 스케일링 팩터를 도입한다. 두 작업의 평균 절대 오차(MAE) 혹은 R²와 같은 성능 지표를 이용해, 성능이 낮은 작업이 과도히 유사하게 평가되는 것을 억제한다. 최종 유사도는
S(T_i,T_j)=α·∑_k w_k·FI_k·d_Frechet(ALE_i^k, ALE_j^k)
형태로 정의되며, α는 성능 스케일링 계수, w_k는 데이터 분포 가중치, FI_k는 피처 중요도, d_Frechet는 가중 프레셰 거리이다.

실험에서는 합성 데이터와 파킨슨병, 자전거 공유, CelebA 이미지 데이터셋을 사용했다. 합성 데이터에서는 사전에 정의한 작업 군집과 측정값이 높은 상관을 보였으며, 파킨슨 데이터에서는 동일 증상(예: tremor) 관련 작업들이 낮은 거리 값을 나타냈다. 자전거 공유 데이터에서는 시간대와 날씨 변수에 대한 ALE가 유사한 작업들이 군집을 이루었고, CelebA에서는 얼굴 속성(예: 안경, 수염) 간의 관계가 직관적으로 해석되었다.

이러한 결과는 제안된 유사도 지표가 단순한 수치적 거리뿐 아니라, 왜 두 작업이 비슷한지를 설명 가능한 형태로 제공한다는 점에서 의미가 크다. 또한 모델‑불가지론적 특성 덕분에 다양한 학습 알고리즘(트리 기반, 신경망, 선형 모델)과 데이터 형태(표형, 이미지)에도 적용 가능하다. 다만 피처 정렬(동일 피처가 서로 다른 이름으로 존재)과 고차원 ALE 곡선의 계산 비용, 그리고 FI 추정 방법에 따라 결과가 변동할 수 있다는 제한점도 논의된다.