대칭 텐서 네트워크로 구현하는 3차원 회전 불변 및 등변 함수

초록

본 논문은 대칭 텐서 네트워크를 이용해 연속적인 3차원 회전 불변(invariant) 및 등변(equivariant) 함수를 체계적으로 구성하는 방법을 제시한다. 입력·출력으로 다양한 차수의 카르테시안 텐서와 구면 텐서를 허용하고, 불변 다항식의 생성자를 텐서 네트워크 형태로 정의한 뒤, 미분을 통해 등변 매핑을 얻는다. 또한 기존 그래프 신경망에서 사용되는 등변 연산들이 이 프레임워크의 특수 경우임을 보인다.

상세 분석

이 연구는 기하학적 딥러닝에서 회전 대칭을 정확히 반영하는 모델 설계의 근본적인 문제를 해결한다. 먼저 저자는 SO(3) 군의 작용을 텐서의 각 인덱스에 적용한 ‘대칭 텐서’를 정의하고, 이러한 텐서들만을 이용해 구성된 텐서 네트워크가 전체적으로도 대칭성을 유지한다는 사실을 강조한다. 핵심 아이디어는 불변 다항식의 생성자(generator)를 ‘텐서 네트워크 생성자(tensor network generator)’라는 그래픽적 구조로 표현하는 것이다.

벡터 입력의 경우, 기존 수학적 결과를 재해석해 두 종류의 기본 생성자, 즉 내적 (x_i·x_j)와 삼중곱 ((x_i×x_j)·x_k)를 제시한다. 이는 모든 SO(3) 불변 다항식이 이 두 종류의 조합으로 표현될 수 있음을 의미한다. 카르테시안 텐서가 입력으로 확장될 때는 δ (크로네커 델타)와 ε (레비‑치비타) 텐서를 이용한 텐서 네트워크를 구성한다. 특히 짝수 차수 텐서는 δ만, 홀수 차수 텐서는 δ와 ε를 한 번씩 결합한 형태로 전개될 수 있음을 증명한다. 이는 고차 텐서의 대칭성을 단순히 두 기본 텐서의 곱으로 분해할 수 있음을 보여준다.

구면 텐서(irreducible representation) 입력에 대해서는, 각 구면 텐서를 3차원 기본 표현(1)과 결합한 텐서 (P_l) 를 정의한다. (P_l)는 SO(3) 대칭성을 보존하면서도 등거리(isometry) 특성을 갖는 사상으로, 구면 텐서를 카르테시안 텐서 공간으로 임베딩한다. 이렇게 변환된 텐서들을 다시 δ와 ε 텐서와 결합하면 구면 텐서 입력에 대한 불변 생성자를 얻을 수 있다.

불변 함수의 근사화는 Stone‑Weierstrass 정리를 이용해, 위에서 정의한 텐서 네트워크 생성자들의 다항식 조합으로 임의의 연속 불변 함수를 근사할 수 있음을 보인다. 여기서 중요한 점은, 생성자 자체가 정확히 불변이므로, 이를 입력으로 하는 일반적인 신경망(비대칭 네트워크)만을 학습시키면 전체 함수가 자동으로 불변성을 갖게 된다는 점이다.

등변 함수는 불변 함수의 미분을 통해 얻는다. 벡터 입력에 대해 일반적인 등변 매핑을 도출했으며, 이는 입력 벡터를 여러 번 곱하고 ε 텐서를 삽입한 뒤 미분 연산을 적용한 형태와 동일하다. 따라서 기존 그래프 신경망에서 사용되는 벡터 합, 외적, 텐서 곱, 텐서 수축 등의 연산은 모두 이 미분 과정의 특수 사례로 해석된다.

이론적 기여 외에도 저자는 그래프 형태의 텐서 네트워크가 복잡한 대칭 연산을 시각적으로 단순화하고, 구현 시 텐서 계약(tensor contraction) 연산만으로 효율적인 계산이 가능함을 강조한다. 전체적으로, 본 논문은 연속적인 회전 대칭 함수의 완전한 구성 원리를 제공함과 동시에, 실제 GNN 설계에 바로 적용 가능한 구체적인 텐서 연산 집합을 제시한다.