미분 재귀와 미분대수 함수

초록

모어가 제시한 실수값 “재귀” 함수 정의는 클레인(Kleene)의 전통적 재귀 함수와 유사하게 설계되었지만, 미분 재귀 연산자를 부분 함수에 적용할 때 모호함이 존재한다. 본 논문은 특히 그의 “원시 재귀” 함수 계층을 집중적으로 검토하여, 정의상의 불완전성을 정확히 규명하고, 이를 보완하려는 여러 시도를 논의한다. 결과적으로, 이 계층이 미분대수 함수와 동일시될 수 없으며, 따라서 샤논의 아날로그 계산 모델과의 직접적인 연관성도 성립하지 않음을 보인다.

상세 분석

모어는 1996년에 아날로그 계산 이론의 기반을 마련하고자, 실수값 함수를 위한 “재귀” 개념을 도입하였다. 그의 정의는 두 가지 핵심 연산자를 포함한다: (1) 기본 연산자 집합(상수, 사칙연산, 비교 등)과 (2) 미분 재귀 연산자(DR)이다. DR은 미분 방정식 y′=f(x,y)와 초기 조건 y(x₀)=y₀을 통해 새로운 함수를 생성한다는 아이디어에 기반한다. 그러나 이 연산자를 부분 함수에 적용할 경우, 정의역이 미분 방정식의 해가 존재하지 않거나 유일하지 않을 때 어떻게 처리할지에 대한 명시가 부족하다.

논문은 먼저 모어의 “원시 재귀” 함수(PR) 정의를 형식적으로 재구성한다. PR은 기본 함수와 합성, 제한, 그리고 DR을 순차적으로 적용한 함수들의 폐쇄계로 정의된다. 여기서 “제한”(restriction) 연산은 함수의 정의역을 임의의 실수 구간으로 제한하는데, 이때 제한된 구간이 DR 연산의 존재조건을 만족하지 않을 가능성이 있다. 예를 들어, f(x,y)=√(1−y²)와 같은 비선형 항을 포함하는 경우, 초기값에 따라 해가 실수축을 벗어나거나 발산할 수 있다.

이러한 상황에서 모어는 “함수가 정의되지 않은 경우는 무시한다”는 식의 애매한 서술만 남겨두었으며, 이는 수학적으로는 부분 함수의 합성에 대한 엄밀한 정의가 결여된 것이다. 논문은 두 가지 보완 방안을 제시한다. 첫 번째는 DR 연산을 “전역 정의된 해가 존재할 때만 적용”하도록 제한하는 방법으로, 이는 정의역을 사전에 검증하는 절차를 포함한다. 두 번째는 “가능한 모든 해를 집합으로 반환하고, 이후 선택 연산을 통해 하나를 선택”하는 비결정적 모델을 도입하는 것이다. 그러나 두 방법 모두 원래 모어가 의도한 연산의 단순함을 손상시키며, 특히 비결정적 접근은 전통적인 재귀 이론과의 일관성을 깨뜨린다.

핵심적인 결과는 PR 함수군이 미분대수 함수(Differentially Algebraic, DA)와 일치하지 않는다는 점이다. DA 함수는 유한 개의 다항식 관계식 P(x,f, f′,…,f⁽ⁿ⁾)=0을 만족하는 함수로 정의되며, 이는 샤논의 아날로그 기계가 구현할 수 있는 함수 집합과 동등시된다. 논문은 구체적인 반례를 제시한다. 예컨대, DR 연산을 이용해 정의된 함수 g(x)=∫₀ˣ e^{t²}dt는 미분대수 함수가 아니다(리만-라우르트 정리에 의해 초월함수임이 증명된다). 또한, DR 연산 자체가 비선형 미분 방정식의 해를 포함할 수 있기 때문에, 그 결과는 일반적인 DA 함수의 폐쇄성 조건을 위반한다.

따라서 모어가 제시한 “원시 재귀 = 미분대수 함수”라는 동등성은 성립하지 않으며, 이는 샤논 모델과의 직접적인 연결 고리를 끊는다. 논문은 이러한 결함을 정리하고, 향후 연구에서는 DR 연산의 정의역 관리와 해의 존재·유일성 조건을 명시적으로 포함하는 새로운 프레임워크가 필요함을 강조한다.