무한컴퓨터로 고차원 미분 자동 계산

초록

본 논문은 무한컴퓨터라는 새로운 연산 체계가 유한·무한·무한소 수를 동시에 다룰 수 있음을 이용해, 함수가 프로그램 형태로 주어졌을 때 고차 미분값을 작업 정밀도 내에서 자동으로 계산할 수 있음을 보인다. 무한소 증분을 이용한 테일러 전개와 그 구현 방법을 제시하고, 다양한 예제로 실효성을 검증한다.

상세 분석

논문은 먼저 무한컴퓨터(Infinitesimal Computer)의 수 체계인 ‘그라시안(①)’을 소개한다. 그라시안은 ①을 무한대, ①⁻¹을 무한소로 정의하며, 이들에 대한 사칙연산과 비교 연산이 일관되게 정의된다. 이러한 체계는 전통적인 부동소수점 연산이 불가능한 무한소와 무한대를 유한 메모리 안에서 정확히 표현하고 조작할 수 있게 한다. 저자는 이 특성을 활용해 함수 f(x)를 컴퓨터 절차로 구현했을 때, 입력값에 무한소 ε를 더한 f(x+ε)를 그대로 계산하면, 결과값은 f(x)+f′(x)·ε+½f″(x)·ε²+… 형태의 테일러 전개가 자동으로 나타난다고 증명한다. 핵심은 무한소 ε가 실제 연산 과정에서 ‘소멸되지 않고’ 보존된다는 점이다. 전통적인 수치 미분은 차분식에 작은 실수를 대입하고 오차를 보정해야 하지만, 무한컴퓨터에서는 ε 자체가 무한소이므로 차분식이 정확히 테일러 전개와 일치한다.

다음으로 저자는 고차 미분을 구하기 위한 알고리즘을 제시한다. 입력 함수가 유한 단계의 루프와 조건문으로 구성된 경우에도, 무한소를 포함한 입력을 그대로 전달하면 내부 연산이 모두 그라시안 연산으로 수행된다. 결과적으로 출력값의 각 그라시안 자리(ε⁰, ε¹, ε², …)에 해당하는 계수가 각각 f(x), f′(x), f″(x)/2! … 로 매핑된다. 이를 위해 무한컴퓨터는 ‘그라시안 자리 추출 연산’을 제공하며, 이는 일반적인 프로그래밍 언어에서 변수의 정밀도와 동일하게 접근 가능하다.

논문은 또한 무한소 증분이 수렴성을 방해하지 않는다는 수학적 근거를 제시한다. 무한소 ε는 실수 체계에서 0에 수렴하지만, 무한컴퓨터 내부에서는 ε 자체가 독립적인 원소이므로 연산 중에 ‘0으로 축소’되는 현상이 없으며, 따라서 수치적 불안정성이 사라진다. 이와 더불어, 무한소를 여러 단계에 걸쳐 중첩 사용하면 고차 미분을 순차적으로 추출할 수 있는데, 이는 기존 자동 미분(AD)에서 역전파와 전방파가 각각 1차 미분만을 지원하는 한계를 뛰어넘는다.

실험 부분에서는 다항식, 삼각함수, 로그함수, 그리고 복합적인 조건문을 포함한 비선형 함수들을 대상으로 무한소 기반 미분을 수행한다. 모든 경우에 무한컴퓨터는 64비트 부동소수점 수준의 작업 정밀도로 정확한 미분값을 출력했으며, 전통적인 차분법이나 심볼릭 미분에 비해 오차가 현저히 낮았다. 특히, 고차 미분(3차 이상)에서 기존 수치 방법이 수치적 잡음에 민감한 반면, 무한소 방식은 잡음이 전혀 발생하지 않는다.

결론적으로, 무한컴퓨터는 무한소를 직접 연산에 포함함으로써 ‘자동 고차 미분’이라는 새로운 패러다임을 제공한다. 이는 최적화, 민감도 분석, 물리 시뮬레이션 등 미분 정보가 핵심인 분야에 즉각적인 적용 가능성을 열어준다. 또한, 무한소 연산이 기존 하드웨어와 소프트웨어에 별도의 오버헤드 없이 구현될 수 있다는 점은 실용적 가치가 크다.