단조 변환에 강인한 다중작업 학습

초록

본 논문은 다중작업 학습(MTL)에서 작업 손실의 비선형 단조 변환에 무관하게 파레토 정상점에 수렴하는 새로운 알고리즘 DiBS‑MTL을 제안한다. 기존 방법은 손실 스케일 차이로 인해 특정 작업이 지배하는 문제를 겪지만, 제안된 방법은 방향 기반 협상 솔루션(DiBS)의 변환 불변성을 활용해 이 문제를 해결한다. 이론적 수렴 증명과 광범위한 실험을 통해 DiBS‑MTL이 최신 MTL 기법을 능가함을 보인다.

상세 분석

이 논문은 다중작업 학습에서 흔히 발생하는 “손실 스케일 불균형” 문제를 근본적으로 해결하고자 한다. 기존 MTL 기법들은 손실값이나 손실의 그래디언트를 가중 평균하거나 동적으로 조정하는 방식으로 파레토 최적점을 찾는다. 그러나 이러한 접근법은 손실 함수가 단조이지만 비선형(비affine) 변환될 경우, 손실값의 상대적 크기가 바뀌어 특정 작업이 과도하게 우선시되거나 무시되는 현상이 발생한다.

논문은 협동 협상 이론에서 제안된 Direction‑based Bargaining Solution(DiBS)를 도입한다. DiBS는 각 작업의 손실을 정규화된 그래디언트와 해당 작업의 “선호 상태”(local minima)만을 이용해 업데이트 방향을 결정한다. 정규화 과정과 거리 가중치(‖θ−θ*_i‖²) 때문에 손실 함수에 단조 비affine 변환을 적용해도 최적화 경로가 변하지 않는다. 이 변환 불변성은 MTL 환경에서 손실 스케일을 사전에 맞출 필요성을 없애며, 실험적으로 확인된 바와 같이 손실 스케일이 크게 차이 나는 경우에도 성능 저하가 거의 없다.

핵심 이론적 기여는 비볼록 손실을 갖는 일반적인 MTL 상황에서도 DiBS가 파레토 정상점으로 수렴한다는 증명이다. 기존 연구는 강볼록 손실에 한정하거나, 비볼록 상황에서 그래디언트 선형 독립성 같은 강한 가정을 필요로 했다. 여기서는 Robbins‑Monro 단계 크기 조건(Pₖαₖ=∞, Σαₖ²<∞)과 손실이 미분 가능하고 경계가 존재한다는 일반적인 가정만으로, DiBS 반복열의 부분수열이 파레토 정상점에 수렴함을 보였다. 이는 MTL에서 흔히 마주치는 비볼록 신경망 손실에 직접 적용 가능한 강력한 결과이다.

알고리즘적 측면에서는 DiBS‑MTL을 제안한다. 각 에폭마다 현재 파라미터 θⱼ에 대해 모든 작업 i의 정규화 그래디언트 (\bar g_{i,j})를 계산하고, ε 반경 안에서 각 작업의 “선호 파라미터” θ*{i,j}=θⱼ−ε·(\bar g{i,j})를 정의한다. 이후 T번의 내부 협상 단계에서 거리 가중치와 정규화 그래디언트를 곱해 얻은 방향 d(j,t)를 사용해 파라미터를 업데이트한다. 이 과정은 기존의 Nash‑Bargaining 기반 MTL 방법보다 계산량이 적고, 내부 최적화가 닫힌 형태로 표현되므로 구현이 간단하다.

실험에서는 NYU‑Depth V2, Cityscapes 등 비전 기반 MTL 벤치마크와 양자화학 데이터셋, 그리고 다중작업 강화학습 환경을 사용했다. 특히 손실 스케일을 인위적으로 왜곡한 실험에서 DiBS‑MTL은 기존 방법이 10‑30% 정도 성능이 급락하는 반면, 거의 변함없는 성능을 유지했다. 이는 변환 불변성이 실제 적용에서 얼마나 중요한지를 명확히 보여준다. 전체적으로 이 논문은 이론적 엄밀함과 실용적 효율성을 동시에 갖춘 MTL 프레임워크를 제공한다는 점에서 큰 의의를 가진다.