고차원 데이터에서의 표현 변동을 측정하는 푸비니 스터디 기하학

초록

본 논문은 고차원 표현의 변동을 기존의 유클리드·코사인 거리 대신 푸비니‑스터디(Fubini‑Study) 메트릭으로 평가한다. 푸비니‑스터디 거리는 전역 스케일링·부호 뒤집기와 같은 게이지 변환에 불변하여, 실제 구조적 변화와 파라미터화에 의한 인위적 변동을 구분한다. 저자들은 손글씨 숫자 데이터에 대해 윈도우 기반 주성분(PC) 궤적을 만든 뒤, 세 거리 척도의 누적 드리프트를 비교한다. 결과는 코사인 거리가 부호 전환 시 π에 가까운 큰 변화를 기록하는 반면, 푸비니‑스터디 거리는 0으로 처리해 실제 내재적 변동만을 반영함을 보여준다. 또한 유클리드 거리와 푸비니‑스터디 거리의 로그 비율을 통해 규모 변화가 내재적 방향 변화보다 훨씬 크게 기여한다는 점을 정량화한다.

상세 분석

이 논문은 고차원 데이터 표현의 변동을 “거리”라는 수학적 개념으로 정량화하는 기존 패러다임을 재검토한다. 전통적으로는 유클리드 거리와 코사인 거리(각도)가 널리 쓰였지만, 두 방법 모두 좌표계 선택에 민감하고, 특히 표현이 스케일링·부호·복소 위상 등으로 자유롭게 변할 수 있는 경우(예: 주성분, 신경망의 가중치, 임베딩)에는 실제 의미 있는 변동을 과대평가한다는 한계를 가지고 있다.

푸비니‑스터디 메트릭의 도입
푸비니‑스터디 거리(FS 거리)는 복소(또는 실수) 벡터 공간의 ‘광선(ray)’—즉, 0이 아닌 스칼라 배에 의해 동일시되는 벡터 집합—사이의 각도를 측정한다. 수식적으로는 두 정규화된 벡터 𝑢,𝑣에 대해
 d_FS(𝑢,𝑣)=arccos|⟨𝑢,𝑣⟩|
이며, 절댓값 연산이 부호(±)를 무시한다. 따라서 전역 스케일링·부호 뒤집기와 같은 게이지 변환에 완전 불변이다. 이 특성은 “프로젝티브(투사) 기하학”이라고 불리는 수학적 구조와 일치한다.

실험 설계
저자들은 scikit‑learn에 포함된 64‑차원 손글씨 숫자 데이터를 사용한다. 데이터는 시간 순서가 없으므로, 고정된 윈도우 길이와 슬라이드 스텝을 정의해 연속적인 서브셋을 만든다. 각 윈도우에 대해 평균을 빼고 SVD를 수행해 첫 번째 주성분(PC1) 벡터를 추출한다. PC1은 방향만 의미하고 부호는 자유롭기 때문에, 실제로는 실수 프로젝트 공간 ℝP⁶³에 존재한다.

거리 계산 및 누적 드리프트
세 거리(유클리드, 코사인, FS)를 각각 단계별(윈도우 i → i+1)로 계산하고, 절대값을 누적해 “누적 드리프트”를 만든다. 코사인 거리는 벡터를 단위화하고 부호를 구분하므로, 부호가 바뀔 때마다 거의 π(≈3.1416)만큼 급격히 증가한다. 반면 FS 거리는 부호 뒤집기를 0거리로 처리한다. 유클리드 거리는 크기와 방향 모두에 민감해, 스케일 변동이 큰 경우 급격히 상승한다.

핵심 결과

• 32개의 윈도우 궤적에서 17번의 부호 전환이 관찰되었으며, 코사인 누적 드리프트는 51.15 rad, FS 누적 드리프트는 14.72 rad으로 차이가 36.43 rad에 달한다.
• 부호 전환이 없는 구간에서는 코사인과 FS 거리의 단계별 증가량이 거의 일치한다. 즉, 두 거리의 차이는 순전히 “게이지‑인디듀스” 변동을 포착한다.
• 유클리드 누적 드리프트는 FS 누적 드리프트보다 훨씬 빠르게 증가했으며, 로그 비율 log((Δ_Eucl+ε)/(Δ_FS+ε)) 은 궤적 전체에 걸쳐 단조 증가한다. 이는 규모 변화가 내재적 방향 변화보다 크게 기여한다는 것을 의미한다.

이론적·실용적 의미

1. 게이지 불변성: FS 메트릭은 표현이 정의상 프로젝트 공간에 존재할 때(예: PCA, SVD, 신경망의 정규화된 출력) 자연스럽게 적용 가능하며, 별도의 정렬·사전 처리 없이도 “진짜” 변동을 측정한다.
2. 표현 변동 분해: 코사인‑FS 차이를 “sign‑drift”(부호 변동)로, 유클리드‑FS 차이를 “scale‑drift”(크기 변동)로 해석할 수 있다. 이는 모델 디버깅, 학습 안정성 평가, 도메인 적응 등에서 유용한 진단 도구가 된다.
3. 연산 효율성: FS 거리 계산은 코사인 거리와 동일한 내적·정규화 연산에 절댓값을 추가하는 정도이므로, 기존 파이프라인에 거의 비용을 추가하지 않는다.

제한점 및 향후 과제

• 실험은 단일 데이터셋(손글씨 숫자)과 단순한 PC1 기반 궤적에 국한되어 있다. 복잡한 비선형 임베딩(예: VAE, BERT)에서도 동일한 효과가 나타나는지 검증이 필요하다.
• 현재는 실수 프로젝트 공간을 사용했지만, 복소수 혹은 고차원 복합 구조(예: 양자 상태)에서는 복소 푸비니‑스터디 메트릭이 더 적합할 수 있다.
• 부호 전환 외에도 회전·선형 변환 등 보다 일반적인 게이지 변환을 포함하는 확장된 프로젝트 공간 정의가 연구될 여지가 있다.

결론
푸비니‑스터디 메트릭은 고차원 표현의 변동을 “프로젝티브” 관점에서 정확히 측정하는 강력한 도구이다. 기존 코사인·유클리드 거리와 비교했을 때, 내재적 구조 변화와 파라미터화에 의한 인위적 변동을 명확히 구분해 주며, 이는 데이터 과학·머신러닝 분야에서 모델 해석·안정성 평가에 새로운 기준을 제공한다.