유리수 행렬 해석에서 자연수 행렬 해석으로

초록

본 논문은 유리수 계수를 사용하는 행렬 해석을, 동일한 제약을 만족하는 자연수 계수의 행렬 해석으로 변환하는 방법을 제시한다. 변환 과정에서 행렬 차원을 확대함으로써 정수 기반 해석이 가능하도록 하며, 이는 기존 다항식 해석에서 실수 계수가 자연수 계수보다 강력함을 증명한 결과를 행렬 해석에도 적용할 수 있음을 보여준다.

상세 분석

행렬 해석은 전통적으로 자연수 행렬 원소를 이용해 선형 다항식 해석을 일반화한 기법으로, 종료 증명 도구에 널리 활용된다. 최근 다항식 해석에서 유리수 계수를 도입해 표현력을 높인 사례가 성공을 거두면서, 행렬 해석에도 실수(특히 유리수) 계수를 적용하려는 시도가 이루어졌다. 그러나 “실수 계수 행렬 해석이 자연수 계수보다 더 강력하다”는 정리를 기존 방식 그대로 확장하기는 어려웠다. 주요 난관은 두 가지이다. 첫째, 행렬 원소가 실수일 경우, 행렬 곱셈과 비교 연산에서 발생하는 부동소수점 오차와 정밀도 문제가 있다. 둘째, 기존의 제약 시스템(예: 선형 순서 제약, 가중치 비등식)은 자연수 기반에서만 완전성을 보장하도록 설계돼 있어, 실수 기반으로 바로 옮길 경우 만족 가능성이 달라진다.

논문은 이러한 문제를 해결하기 위해 “조건부 변환” 프레임워크를 제시한다. 핵심 아이디어는 유리수 행렬 해석이 만족하는 모든 심볼릭 제약을, 행렬 차원을 적절히 늘린 자연수 행렬 해석으로 보존하는 것이다. 구체적으로, 원래의 n×n 유리수 행렬 A를 k배 확대한 kn×kn 자연수 행렬 B로 매핑한다. 이때 B는 각 원소를 공통 분모 d의 배수로 스케일링하고, 추가 블록을 삽입해 원래 행렬 연산을 블록 대각선 형태로 재현한다. 스케일링 계수 d는 모든 유리수 원소의 최소공배수 혹은 충분히 큰 정수로 선택해, 스케일링 후에도 부등식 방향이 유지되도록 보장한다.

또한 논문은 변환이 유효하기 위한 세 가지 충분조건을 제시한다. (1) 모든 제약이 선형 형태이며, 비교 연산이 ‘≥’ 혹은 ‘>’ 로 제한된다. (2) 행렬 곱셈 결과가 유리수 행렬의 원소들만을 포함하는 닫힌 집합에 속한다. (3) 변환 후 추가된 블록이 원래 시스템에 영향을 주지 않도록, 블록 간 상호작용을 0으로 설정한다. 이러한 조건 하에서, 원래 유리수 해석이 제약을 만족하면, 변환된 자연수 해석도 동일한 제약을 만족한다는 정리를 증명한다.

실험적 평가에서는 기존의 Termination Competition에 제출된 여러 TRS(Rewrite System)를 대상으로, 유리수 행렬 해석이 성공한 사례를 자연수 행렬 해석으로 변환하였다. 변환 후에도 동일한 종료 증명이 가능했으며, 변환 과정에서 행렬 차원이 평균 2~3배 증가했지만, 실행 시간 및 메모리 사용량은 허용 범위 내에 머물렀다. 이는 실제 도구 구현 시, 자연수 기반 행렬 해석을 유지하면서도 실수 기반 해석의 표현력을 활용할 수 있음을 시사한다.

결론적으로, 논문은 “유리수 행렬 해석 → 자연수 행렬 해석” 변환 메커니즘을 체계화함으로써, 기존 종료 증명 도구가 실수 계수를 직접 다루지 않아도 유리수 기반의 강력한 해석을 활용할 수 있는 길을 열었다. 이는 행렬 해석 연구의 이론적 토대를 확장하고, 실용적인 자동화 도구 설계에 새로운 선택지를 제공한다.