고급 컴퓨터 대수와 행렬식 평가

본 논문은 행렬식 평가와 관련된 세 가지 유명한 추측을 컴퓨터 대수적 방법으로 증명하고, 그 과정에서 Zeilberger가 제안한 ‘홀로노믹 안사츠’를 확장·변형하는 새로운 기법들을 제시한다. 서론에서는 행렬식이 16세기 Girolamo Cardano의 선형 방정식 해법에서 시작해 1801년 Gauss가 정식화한 이후, 조합론에서 평면 분할과 리무스 타일링을 세는 문제와 깊은 연관을 맺게 된 배경을 서술한다. 특히 Vandomonde 행렬식과 같은 고전적인 예외를 넘어, 차원이 파라미터 n에 따라 변하는 복잡한 행렬식이 현대 조합론에서 핵심적인 역할을 함을 강조한다. 2절에서는 Zeilberger의 원래 홀로노믹 안사츠를 상세히 설명한다. 행렬 Aₙ의 원소 aᵢ,ⱼ와 보조 함수 cₙ,ⱼ가 모두 ‘홀로노믹’(다변량 선형 재귀식으로 정의되는)일 경우, n에 대한 귀납적 전개를 통해 det Aₙ = bₙ을 증명한다. 핵심은 (1)–(3) 식을 만족하는 cₙ,ⱼ를 찾는 것이며, 이를 위해 Cramer’s rule과 Laplace 전개를 결합한다. 그러나 이 방법은 cₙ,ⱼ가 존재하지 않거나 너무 복잡하면 실패한다는 한계가 있다. 3절에서는 George Andrews가 제시한 D₁(n) 행렬식을 다룬다. D₁(n) = det(δᵢ,ⱼ + µ + i + j − 2) 형태이며, 짝수 차원과 홀수 차원에서 서로 다른 인수 구조가 나타난다. 기존 안사츠로는 cₙ,ⱼ를 찾을 수 없었고, 특히 D₁(2n + 1)/D₁(2n) 비율이 비홀로노믹임을 확인한다. 이를 극복하기 위해 저자들은 ‘짝수 차원 전용’ 안사츠를 고안한다. 즉, n을 짝수로 제한하고 cₙ,ⱼ를 2n 차원에 대해서만 정의한다. Mathematica 패키지 Guess를 이용해 30차원까지의 정규화된 여인자를 계산하고, 이를 바탕으로 두 개의 다항식 재귀식 (4)와 (5)를 추정한다. Gröbner 기저 검증을 통해 두 재귀식이 서로 모순 없이 동일한 해를 생성함을 보이며, 초기값 c₁,₁ = −µ/2, c₁,₂ = 1을 지정해 전체 배열을 재구성한다. j = 2n에서 발생하는 ‘j − 2n’ 인수 문제는 (6) 형태의 3‑항 재귀식을 도입해 해결하고, 이를 통해 cₙ,₂ₙ = 1을 증명한다. µ 파라미터에 대한 특수값(예: µ = −6)에서도 계수가 동시에 소멸하는 현상을 피하기 위해 µ를 충분히 큰 실수 혹은 형식 변수로 가정하고 전개를 진행한다. 최종적으로 (1a)–(3a) 식을 만족함을 자동화된 증명으로 확인하고, D₁(2n)/D₁(2n − 1) 비율에 대한 명시적 닫힌 형태를 얻는다. 4절에서는 ‘이중‑스텝 변형(double‑step variant)’을 제시한다. Zeilberger 안사츠는 bₙ/bₙ₋₁ 비율을 다루지만, Pfaffian을 이용한 스키드 대칭 행렬식 등에서는 det Aₙ이 홀수 차원에서 0이 되므로 bₙ/bₙ₋₁이 정의되지 않는다. 이를 해결하기 위해 두 개의 보조 함수 c′ₙ,ⱼ와 c″ₙ,ⱼ를 도입하고, (1b)–(3b) 식을 만족하도록 설계한다. 블록 행렬 분해(det M = det M₁·det(M₄ − M₃M₁⁻¹M₂))와 결합하면, bₙ/bₙ₋₂ 비율에 대한 재귀식을 얻을 수 있다. 이 방법은 짝수 차원에서만 깔끔한 인수분해가 일어나는 여러 행렬식(예: Theorem 2, Theorem 5)에서 성공적으로 적용되었으며, 향후 삼중‑스텝 혹은 다중‑스텝 변형으로 일반화 가능성을 논의한다. 5절에서는 작은 변형이 큰 영향을 미친 사례들을 제시한다. 여기서는 기존 안사츠가 실패하던 몇몇 행렬식에 대해, 위에서 소개한 변형들을 적용함으로써 성공적인 증명을 얻은 구체적인 예시들을 나열한다. 각 사례마다 사용된 컴퓨터 대수 패키지(HolonomicFunctions, Guess, Mathematica, Maple)와 실행 시간, 메모리 사용량 등을 상세히 보고한다. 결론에서는 Andrews 행렬식에 대한 새로운 닫힌 형태 추측을 제시하고, 이를 ‘도전 과제’로 남긴다. 현재까지는 b₂ₙ/b₂ₙ₋₁에 대한 명시적 식만이 증명됐으며, b₂ₙ₊₁/b₂ₙ은 비홀로노믹으로 보인다. 따라서 기존 안사츠와 변형만으로는 해결이 어려우며, 더 강력한 다중‑스텝 안사츠 혹은 전혀 새로운 전산 대수 기법이 필요함을 강조한다. 논문은 또한 모든 소스 코드와 계산 결과를 온라인 저장소에 공개함으로써 재현 가능성을 보장하고, 향후 연구자들이 이를 기반으로 새로운 행렬식 평가 문제에 도전하도록 독려한다.