페레이 수열의 성질과 디지털 영상 처리 응용

초록

본 논문은 임의의 유리수 p/q를 페레이 수열 Fₙ에서 가장 근접한 원소로 찾는 새로운 정수 기반 알고리즘을 제안한다. Regula Falsi(가위법)와 페레이 테이블 개념을 결합해 탐색 효율을 높였으며, 이 기법을 영상 처리의 서브픽셀 보간, 경계 검출, 모션 추정 등에 적용한 사례와 실험 결과를 제시한다.

상세 분석

페레이 수열은 0과 1 사이의 기약분수들을 분모가 n 이하인 순서대로 나열한 집합으로, 수학적 정밀도와 이산 구조를 동시에 제공한다는 점에서 디지털 영상 처리에 매력적인 도구가 된다. 기존 연구에서는 두 인접 원소 사이의 중간값을 구하거나, 특정 분모 제한 하에 근사값을 찾는 방법이 주로 제시되었으나, 탐색 과정에서 부동소수점 연산에 의존하거나 전체 수열을 순차적으로 스캔해야 하는 비효율성이 존재했다. 본 논문은 이러한 한계를 극복하기 위해 Regula Falsi(가위법)를 정수 연산으로 변형하고, 페레이 테이블이라는 사전 계산된 인덱스 구조를 도입하였다. 페레이 테이블은 각 가능한 분모 d(1≤d≤n)에 대해 해당 분모를 갖는 최소·최대 기약분수를 미리 저장함으로써, 주어진 p/q에 대한 상하 경계값을 O(log n) 시간 내에 추출한다. 이후 가위법은 이 두 경계값을 이용해 선형 보간 형태의 후보분수를 생성하고, 후보와 목표값의 차이를 정수 연산으로 비교해 구간을 반복적으로 축소한다. 이 과정은 분모와 분자를 모두 정수로 유지하므로 오버플로우 방지를 위한 적절한 스케일링만으로도 정확한 결과를 얻을 수 있다. 알고리즘의 복잡도는 최악의 경우 O(log n)이며, 실제 구현에서는 평균 5~7회의 반복만으로 원하는 근사값을 찾는다. 실험에서는 n=10⁴ 수준의 대규모 페레이 수열에서도 기존의 이분 탐색 기반 방법보다 30 % 이상 빠른 수행 시간을 기록했으며, 메모리 사용량도 테이블 크기(≈n)만큼으로 제한되어 실시간 영상 처리에 적합함을 확인하였다. 특히 서브픽셀 수준의 위치 보정이 요구되는 영상 정합, 템플릿 매칭, 그리고 비선형 왜곡 보정 단계에서, 정수 기반 근사 연산이 부동소수점 연산에 비해 잡음에 대한 강인성을 보이며 정밀도를 유지한다는 점이 강조된다.