불변 이론과 결합된 조합 수열 연구

초록

본 논문은 예외적 리 군 G₂와 특수 선형 군 SL(3)의 텐서 불변 이론을 이용해 정의된 두 계열의 정수 수열(옥탄트·쿼드런트 수열)을 조사한다. 각 수열은 이항 변환을 통해 서로 연결되며, 격자 보행 해석, P‑재귀성, 차수‑3 미분 방정식, 그리고 2F1 형태의 초월 함수로 표현되는 생성함수를 갖는다. 또한 SL(3)⊂G₂ 포함에 따른 분기 규칙을 통해 두 계열을 연결한다.

상세 분석

이 논문은 먼저 불변 텐서 차원을 정의하는 일반적인 프레임워크를 제시한다. 정의 2.1에 따라, 복소 대수군 G와 그 표현 V에 대해 λ=0(자명 표현)일 때 a_V는 ⊗ⁿV에서 불변 텐서의 차원을 기록한다. 이때 G가 SL(2)인 경우 Catalan 수열이, SL(3)인 경우 3‑차원 Catalan 수열이 등장함을 예시로 든다. 핵심은 두 계열, 즉 G₂의 7‑차원 기본 표현으로부터 유도된 옥탄트 수열(T₃)과 SL(3)의 3‑차원 기본 표현과 그 이중표현의 직접합으로부터 유도된 쿼드런트 수열을 비교 분석한다.

옥탄트 수열 T₃는 OEIS A059710에 등재된 최초의 항목이며, 그 combinatorial 해석은 (i) 2×2×2×2×2×2×2 형태의 “hesitating tableau”, (ii) 싱글톤이 없고 3‑교차가 없는 집합 분할, (iii) 1≤x_i<i 를 만족하고 길이 3의 약하게 감소하는 부분수열을 포함하지 않는 정수열 등으로 제시된다. 이러한 해석은 6개의 비영점 스텝과 1개의 영점 스텝을 갖는 격자 보행 모델에 기반한다. 특히 영점 스텝은 x=y 직선에서 금지되는 비표준 경계 조건을 갖는다.

정리 1.2는 옥탄트 수열의 이항 변환이 두 번째 옥탄트 수열 E₃(A108307)와 일치함을 보이며, 이는 V⊕ℂ 형태의 표현을 고려할 때 텐서 곱 전개에서 이항 계수가 자연스럽게 나타나는 것과 일치한다(레마 2.8). 따라서 E₃는 T₃의 이항 변환이며, 두 수열은 동일한 격자 보행을 영점 스텝을 추가하거나 제거함으로써 연결된다.

정리 1.3은 T₃에 대한 4차 선형 재귀식을 제시한다. 이는 (n+1)(n+2)·T₃(n) 등 다항식 계수를 갖는 차수‑3 차분 방정식이며, 이전 문헌에서 추측된 바를 증명한다. 이 재귀식은 창의적 텔레스코핑과 컴퓨터 대수 시스템을 이용한 세 가지 독립적인 증명으로 뒷받침된다. 해당 재귀식의 특성 방정식은 차수‑3 미분 방정식으로 변환되며, 해는 Gaussian hypergeometric 함수 ₂F₁ 형태로 명시된다. 이는 P‑재귀성(holonomic)과 직접 연결되며, 생성함수 T(t)=∑T₃(n)tⁿ가 대수적이 아닌 초월적 형태임을 보여준다.

쿼드런트 수열은 SL(3)와 그 기본 표현의 직접합으로부터 유도된다. 첫 네 개의 수열은 각각 OEIS A151366, A236408, A001181, A216947에 등재되어 있다. 특히 세 번째 수열은 Baxter 순열을 열거하며, 이는 기존 연구와 동일한 재귀식과 초기값을 공유함을 통해 확인된다. 네 번째 수열은 2‑색 비교차 집합 분할을 세는 것으로, Marberg의 연구와 일치한다.

섹션 4에서는 일반적인 k‑번째 쿼드런트 수열에 대한 재귀식을 파라미터화하고, 그 생성함수에 대한 폐쇄형 표현을 제공한다. 또한, G₂⊃SL(3) 포함 관계에 따른 분기 규칙을 이용해 옥탄트 수열의 (k+1)번째 항이 쿼드런트 수열의 k번째 항과 동일함을 보인다. 이는 텐서 표현을 제한(restrict)할 때 기본 표현이 두 개의 3‑차원 표현과 하나의 자명 표현으로 분해되는 사실에 기인한다.

전반적으로 논문은 (1) 불변 텐서 차원과 이항 변환 사이의 구조적 연결, (2) 격자 보행 모델을 통한 combinatorial 해석, (3) 차분·미분 방정식과 hypergeometric 함수에 의한 생성함수의 명시적 해, (4) 군 포함 관계에 따른 수열 간의 브랜칭 규칙을 체계적으로 제시한다. 이러한 결과는 대수적 조합, 표현론, 그리고 컴퓨터 대수학 사이의 교차점을 명확히 하며, 향후 다른 리 군이나 고차원 텐서 경우에도 유사한 수열 구조가 존재할 가능성을 시사한다.