클리포드 콜모고로프 아놀드 네트워크: 고차원 초복소 함수 근사의 새로운 패러다임
초록
**
본 논문은 기존 복소수 기반 KAN을 일반화하여 Clifford 대수 전반에 적용 가능한 ClKAN을 제안한다. 고차원 대수에서의 파라미터 폭발을 완화하기 위해 Randomized Quasi‑Monte‑Carlo(RQMC) Sobol 그리드를 도입하고, Clifford 특성에 맞는 세 가지 배치 정규화 방식을 설계하였다. 합성 및 물리‑영감 실험을 통해 제안 모델이 기존 CVKAN 대비 파라미터 효율성과 표현력을 동시에 향상시킴을 입증한다.
**
상세 분석
**
ClKAN은 Kolmogorov‑Arnold 정리(KAT)를 함수 근사의 기본 틀로 삼고, 이를 Clifford 대수(Cl(p,q,r)) 위에 구현한다는 점에서 이론적·실용적 의미가 크다. 기존 KAN은 실수 입력을 다루며, CVKAN은 복소수 입력을 위한 RBF(복소 가우시안)와 복소 SiLU를 도입했지만, 차원이 2를 초과하는 물리·공학 문제(예: 전자기장, 로봇 팔의 다관절 동작)에는 충분하지 않다. 논문은 이를 해결하기 위해 두 종류의 RBF를 제시한다. ① 순수 실수값 RBF ϕ(x)=exp(−‖x‖²)는 입력을 실수 스칼라로 압축해 정보 손실 위험이 있다. ② Clifford RBF ϕ_Cℓ(x)=x·exp(−‖x‖²)는 입력 자체를 스칼라 가중치와 곱해 Clifford 원소를 그대로 보존한다. 이렇게 하면 각 그레이드(스칼라, 벡터, 이중벡터 등)의 구조적 상관관계를 학습에 활용할 수 있다.
그리드 생성 방식도 핵심 혁신이다. 고차원 Clifford 대수는 차원 D=2ⁿ(예: Cℓ₃ → 8 차원)으로, 전통적인 균일 그리드(N_g)ⁿ은 파라미터 수가 지수적으로 증가한다. 저자들은 무작위 샘플링 대신 RQMC 스크램블드 Sobol 시퀀스를 사용해 하이퍼큐브를 균등하게 커버하면서도 샘플 수를 크게 줄였다. 이론적으로 Sobol 그리드는 무편향 추정량을 제공하고, 분산이 O(1/n)으로 감소한다는 Property IV.1·Lemma IV.2를 증명한다. 따라서 학습 과정에서 커널 ϕ와 가중치 w_g를 동시에 최적화하면, 원함수와의 근사 오차가 그리드 크기에 반비례한다.
배치 정규화 역시 Clifford 특성에 맞게 세 가지 변형을 제안한다. (1) 차원별 정규화는 전체 레이어의 동일 차원에 대해 평균·분산을 맞추어, 각 차원의 스케일 차이를 보정한다. (2) 노드별 정규화는 하나의 KAN 노드가 다차원 Clifford 값을 출력할 때, 그 노드 내부에서만 정규화해 서로 다른 노드 간의 상관관계를 보존한다. (3) 컴포넌트별 정규화는 차원·노드 두 축을 동시에 고려해, 가장 세밀한 정규화 효과를 제공한다. 실험에서는 특히 노드별 정규화가 복소·쿼터니언·Cℓ(2) 등 다양한 대수에서 가장 안정적인 학습을 보였다.
성능 평가에서는 (i) 복소수 기반 CVKAN과 직접 비교해 동일 파라미터 조건에서 ClKAN이 더 낮은 MSE와 빠른 수렴을 보였으며, (ii) 고차원 Clifford(예: Cℓ(3), Cℓ(1,1))에서 합성 함수(다항식, 트리곤함수)와 물리‑영감 PDE(맥스웰 방정식 변형) 근사 실험을 수행했다. Sobol‑그리드 기반 모델은 전체 그리드 대비 70% 이하의 파라미터로도 비슷하거나 더 좋은 정확도를 달성했고, 학습 시간도 크게 단축되었다. 또한 배치 정규화 전략별 실험에서 노드별 정규화가 가장 낮은 변동성을 보이며, 전체 모델의 일반화 능력을 향상시켰다.
이 논문은 Clifford 대수라는 강력한 수학적 프레임워크를 현대 딥러닝에 자연스럽게 접목시켰으며, RQMC 기반 그리드와 맞춤형 배치 정규화라는 두 가지 엔지니어링 기법을 통해 차원 저주를 실질적으로 완화했다. 따라서 전자기 시뮬레이션, 로봇 동역학, 다중 물리 현상 모델링 등 고차원 복합 데이터에 대한 함수 근사에 새로운 도구를 제공한다는 점에서 학계·산업 모두에 큰 파급 효과를 기대할 수 있다.
**
댓글 및 학술 토론
Loading comments...
의견 남기기