선형 재귀식 도달 가능성의 무한 행렬식 및 유리 다항식 방정식 표현

초록

본 논문은 비동차 선형 재귀식이 특정 유리수값에 도달할 수 있는지를 판단하기 위한 두 가지 수학적 도구를 제시한다. 첫 번째는 i번째 항을 행렬식 형태로 표현하고, 이를 무한히 확장한 행렬식이 0이 되는 조건이 목표값 도달과 동치임을 보인다. 두 번째는 무한 합 형태의 유리 다항식 시리즈를 구성하여, 그 합이 1이 되는 경우에만 목표값이 재귀식의 어떤 항에 나타난다는 결과를 얻는다.

상세 분석

논문은 먼저 비동차 선형 재귀식
(x_{n}=c_{1}x_{n-1}+c_{2}x_{n-2}+…+c_{k}x_{n-k}+d_{n})
의 일반해를 행렬식으로 기술한다. 이를 위해 상태벡터 (v_{n}=(x_{n},x_{n-1},…,x_{n-k+1})^{T}) 를 정의하고, 전이 행렬 (A) 와 비동차 항을 포함하는 확장 행렬 (B_{n}) 를 구성한다. 그러면 (v_{n}=A v_{n-1}+b_{n}) 형태가 되며, 귀납적으로 전개하면 (x_{i}) 를 (i) 차원 행렬식 (\Delta_{i}) 로 나타낼 수 있다. 중요한 점은 (\Delta_{i}) 가 (c_{j}) 와 (d_{n}) 의 유리식으로만 구성된다는 것이다.

다음 단계에서는 목표 유리수 (r) 가 어느 항에 나타나는지를 판별하기 위해 무한 행렬식
(\displaystyle \mathcal{D}(r)=\lim_{N\to\infty}\det\bigl(M_{N}(r)\bigr))
을 정의한다. 여기서 (M_{N}(r)) 은 앞서 정의한 (\Delta_{i}) 를 대각선에 배치하고, 목표값 (r) 와의 차이를 나타내는 열을 추가한 블록 행렬이다. 논문은 (\mathcal{D}(r)=0) ⇔ ∃ i : (x_{i}=r) 를 정리 1 로 증명한다. 증명은 행렬식의 전개와 라플라스 전개법을 이용해, 행렬식이 0이 되는 경우가 정확히 (r) 와 일치하는 항이 존재할 때만 발생함을 보인다.

두 번째 도구는 무한 급수 형태의 유리 다항식 시리즈이다. 각 항을
(P_{i}(t)=\frac{Q_{i}(t)}{R_{i}(t)})
(여기서 (Q_{i},R_{i}) 는 정수 계수를 가진 다항식) 로 두고, 목표값을 변수 (t) 로 치환한다. 그런 다음
(\displaystyle S(t)=\sum_{i=0}^{\infty}P_{i}(t))
를 정의하고, 정리 2 에서는 (S(r)=1) ⇔ ∃ i : (x_{i}=r) 를 보인다. 이때 수렴 조건은 (R_{i}(r)\neq0) 와 (|P_{i}(r)|) 가 충분히 빠르게 0 으로 수렴함을 요구한다. 논문은 이 수렴성을 보장하기 위해 비동차 항 (d_{n}) 이 유리수이며, 계수 (c_{j}) 가 절대값이 1보다 작은 경우를 가정한다.

핵심 통찰은 두 접근법 모두 “도달 가능성”이라는 질적 질문을 “행렬식이 0인지 여부” 혹은 “무한 급수의 합이 1인지 여부”라는 정량적 조건으로 전환한다는 점이다. 이는 기존의 재귀식 해석이 주로 특성 방정식과 초기값을 통한 폐쇄형 해에 의존하던 것과 달리, 행렬식 이론과 급수 수렴 이론을 활용해 결정 문제(decidability)와 연관된 새로운 시각을 제공한다. 특히 무한 행렬식 접근은 결정 문제를 NP‑complete 혹은 PSPACE‑complete와 같은 복잡도 클래스와 연결시킬 가능성을 시사한다.

또한 논문은 실제 계산 가능성을 논의한다. 무한 행렬식은 근사적으로 유한 차원 전위 행렬식을 계산함으로써 수치적으로 검증할 수 있으며, 급수 표현은 적절한 절단점 (N) 을 정해 부분합을 계산함으로써 목표값 도달 여부를 추정한다. 이때 오차 한계는 행렬식 전개식의 차수와 급수 항의 감소율에 의해 제어된다.

결과적으로, 이 두 도구는 비동차 선형 재귀식의 도달 가능성을 판단하는 새로운 알고리즘적 프레임워크를 제공한다. 향후 연구에서는 이러한 프레임워크를 비선형 재귀식, 초정수열, 혹은 자동 증명 시스템에 적용하는 방안을 모색할 수 있다.