조절 가능한 다목적 학습을 위한 Annealed Stein 변분 하이퍼네트워크 프레임워크

초록

본 논문은 하이퍼네트워크와 Stein Variational Gradient Descent(SVGD)를 결합한 SVH‑MOL을 제안한다. 두 개의 상호 보완적 항(수렴을 유도하는 드라이빙 항과 다양성을 촉진하는 반발 항)을 annealing 스케줄로 동적으로 조절함으로써 Pareto 집합을 안정적으로 학습한다. 선형, Chebyshev, 부드러운 Chebyshev 등 세 가지 스칼라화 전략을 체계적으로 검증하고, 합성 벤치마크와 다중 과제 학습 실험에서 기존 방법보다 높은 하이퍼볼륨과 다양성을 달성한다.

상세 분석

SVH‑MOL은 기존 Pareto Set Learning(PSL)에서 발생하던 “수렴 vs 다양성” 트레이드오프 문제를 근본적으로 해결하고자 한다. 핵심 아이디어는 파티클 집합을 Pareto 집합으로 끌어당기는 SVGD의 드라이빙 항과 파티클 간 거리를 유지해 다양성을 보장하는 반발 항을 동시에 적용하는 것이다. 두 항은 본질적으로 경쟁 관계에 있기 때문에 학습 초기에 반발 항을 크게 두어 탐색 범위를 넓히고, 점차 드라이빙 항을 강화해 수렴을 촉진하는 annealing 스케줄을 도입하였다. 이 스케줄은 온도 파라미터 τ를 단계적으로 감소시키는 형태로 구현되며, τ가 클 때는 커널 폭이 넓어 파티클이 서로 멀리 떨어지게 하고, τ가 작아지면 커널이 좁아져 미세 조정이 가능하도록 설계되었다.

또한, 저자는 세 가지 스칼라화 함수—선형 가중합, 전통적 Chebyshev, 그리고 부드러운 Chebyshev(σ‑함수로 근사)—를 SVGD 업데이트에 삽입해 각각의 목표 함수가 반발 항과 어떻게 상호작용하는지를 실험적으로 분석했다. 선형 스칼라화는 목표가 균일하게 분포된 경우에 효율적이지만, 목표가 비대칭일 때는 Chebyshev 계열이 더 강력한 수렴을 보인다. 부드러운 Chebyshev은 미분 가능성을 유지하면서도 극단적인 목표값에 대한 과도한 편향을 완화한다는 장점이 있다.

하이퍼네트워크는 선호 벡터 r 를 입력받아 목표 네트워크의 파라미터 θ 를 출력한다. 이 구조는 다중 과제 학습에서 각 과제별 파라미터를 별도로 학습할 필요 없이 하나의 모델로 모든 과제를 동시에 최적화할 수 있게 해, 파라미터 효율성을 크게 향상시킨다. 파티클은 하이퍼네트워크 파라미터 φ 공간에서 움직이며, 각 파티클은 서로 다른 r 에 대응한다. 따라서 SVH‑MOL은 “무한히 많은” Pareto 해를 연속적으로 근사할 수 있다.

실험에서는 합성 2‑목표, 3‑목표 benchmark와 실제 다중 과제 데이터셋(예: NYUv2, Cityscapes)에서 하이퍼볼륨, IGD(Inv. Generational Distance), 그리고 다양성 지표를 측정했다. SVH‑MOL은 기존 MOEA/D‑based 방법, PHN‑HVI, MOO‑SVGD 등에 비해 하이퍼볼륨을 평균 12%~18% 향상시켰으며, 파티클 붕괴 현상이 현저히 감소했다. 특히, annealing 스케줄이 없을 경우 초기 단계에서 파티클이 급격히 수렴해 다양성이 급감하는 반면, 제안된 스케줄은 학습 전반에 걸쳐 균형 잡힌 탐색‑수렴을 유지한다는 점이 강조된다.

한계점으로는 커널 선택과 온도 스케줄의 하이퍼파라미터 민감도가 존재한다는 점이다. 저자는 RBF 커널과 다중 커널 조합을 실험했지만, 고차원 파라미터 공간에서는 커널 폭 조정이 어려울 수 있다. 또한, 현재 구현은 파티클 수를 100~200 정도로 제한했으며, 매우 큰 규모의 선호 벡터 공간에서는 메모리와 연산 비용이 급증한다는 점이 향후 연구 과제로 남는다.

요약하면, SVH‑MOL은 Stein 변분 방법과 하이퍼네트워크를 결합해 다목적 학습에서 수렴과 다양성을 동시에 달성하는 강력한 프레임워크이며, annealing 기반 동적 균형 조절이 핵심 혁신이다.