공분산 스펙트럼을 이용한 측도 비교 커널

초록

본 논문은 양의 커널 κ 로 정의된 임의의 공간 X 위에 정의된 양의 측도들을 비교하기 위한 새로운 커널 군을 제안한다. 두 측도의 합을 이용해 분산 행렬의 고유값 스펙트럼만을 활용하는 반군집(semigroup) 및 스펙트럼 특성을 갖는 커널을 설계하고, 이와 라플라스 변환 사이의 수학적 연관성을 밝힌다. 또한, 영 고유값 추가에 불변인 함수를 이용해 원자 측도 간의 커널을 직접적인 그램 행렬 고유값으로 정의한다. 실험을 통해 제안 방법의 실용성을 확인한다.

상세 분석

논문은 먼저 X가 유클리드 공간인 경우를 다루며, 두 측도 μ와 ν의 합 μ+ν에 대한 공분산 행렬 Σ를 정의한다. 기존의 히스토그램 커널이나 워터스톤 거리와 달리, 저자들은 Σ의 고유값 λ₁,…,λ_d만을 이용해 유사도를 측정한다. 이때 커널 K(μ,ν)=f(λ₁,…,λ_d) 형태이며, f는 비음수 함수이면서 라플라스 변환 형태를 갖는다. 라플라스 변환을 이용하면 K는 양정정함수(positive definite)임을 보장할 수 있는데, 이는 Σ가 양정정 행렬인 점을 활용한다. 특히, f가 영 고유값에 대해 불변이면, 원자 측도(점들의 집합)에서도 동일한 정의가 가능해진다. 이는 X에 정의된 기본 커널 κ의 그램 행렬 G를 중심화한 후, G의 고유값 스펙트럼만을 사용해 K를 계산한다는 뜻이다. 저자들은 이러한 스펙트럼 커널이 반군집성(semigroup) 특성을 갖는다고 증명한다. 즉, 두 측도의 합만을 이용해 유사도를 정의하므로, 연산이 결합법칙을 만족한다. 또한, 라플라스 변환의 적분 표현을 통해 여러 특수 경우에 대한 닫힌 형태식을 도출한다. 예컨대, f가 지수 함수 형태이면 K는 행렬식(det)이나 트레이스(trace)와 연관된 식으로 단순화된다. 실험에서는 합성 데이터와 실제 이미지 히스토그램에 대해 기존의 히스토그램 교차 엔트로피, 베르누이 커널 등과 비교했을 때, 제안 커널이 분산 구조를 더 잘 포착하여 분류 정확도가 향상되는 것을 보여준다. 이와 같이 고유값 스펙트럼만을 이용하는 접근은 차원 축소나 노이즈에 강인한 특성을 제공한다는 점이 강조된다.