분수 미적분학의 새로운 관문, 매트릭스 접근법

초록

본 논문은 함수에 대한 분수 미분과 적분을 정의하는 새로운 방법인 ‘매트릭스 접근법’을 제시한다. 미분 연산자를 이산화하여 얻은 행렬 근사를 바탕으로, 반군 이론을 활용한 Balakrishnan의 연산자 분수 거듭제곱 표현을 적용한다. 이를 통해 원래 연산자의 분수 거듭제곱과 행렬 근사의 분수 거듭제곱 사이의 수렴 속도를 추정하고, 수치 해법에 필수적인 두 대각 행렬의 임의 거듭제곱 계산 공식을 도출한다.

상세 분석

이 논문의 핵심 기여는 분수 미적분학의 연산자 이론과 수치 해법 사이에 매트릭스라는 강력한 다리를 놓은 데 있다. 기존의 그뤼발트-레트니코프(Grünwald-Letnikov) 유한 차분법이 직관적인 수치 근사에 머물렀다면, 본 연구는 이를 체계적인 ‘행렬의 분수 거듭제곱’ 문제로 승화시켜 해석적 엄밀성과 수치적 실용성을 결합했다.

기술적 핵심은 두 단계로 나뉜다. 첫째, 함수 g에 대한 미분 연산자 d/dg를 유한 차분으로 이산화하여 특정 형태의 두 대각(two-band) 행렬(논문의 (6)번 식)로 근사한다. 이때 중요한 점은 이 행렬 근사가 단순히 연산자만이 아니라, 해당 연산자가 생성하는 반군(semigroup)의 근사치도 동시에 제공한다는 것이다. 이는 Balakrishnan 공식(논문의 (1)번 식)이 반군을 통해 분수 거듭제곱을 정의하기 때문에 필수적이다.

둘째, 이 행렬의 임의의 실수 거듭제곱 α에 대한 명시적 공식을 유도한다(논문의 (8), (10)번 식). 이 공식은 감마 함수와 이항 계수를 사용하여 표현되며, α가 자연수일 때는 유한 차분으로, 비자연수일 때는 그뤼발트-레트니코프 분수 미분/적분으로 수렴함을 보인다. 이는 행렬 접근법이 정수차 미적분과 분수차 미적분을 하나의 통일된 프레임워크로 설명할 수 있음을 의미한다.

가장 중요한 이론적 결과는 ‘수렴 속도 추정’이다. 원래 연산자 A와 그 행렬 근사 A_n의 분수 거듭제곱 A^α와 A_n^α 사이의 오차 노름 ||A^α - A_n^α||를, 반군의 노름과 연산자-근사치 차이의 노름 ||A - A_n||을 이용해 정량적으로 평가한다. 이 추정치는 근사 이산화의 간격(step size)에 따른 오차의 속도를 보여주어, 수치 방법의 정확성과 효율성을 보장하는 이론적 근거가 된다.

이러한 접근법의 장점은 복잡한 함수 g(x)에 대한 분수 미분 d^α/dg^α도 행렬의 분수 거듭제곱 문제로 귀결시킬 수 있다는 점이다. 이는 확률론(예: 비브라운 운동)이나 물리학에서 나타나는 일반화된 분수 연산자들을 수치적으로 다루는 강력한 도구를 제공한다.