제자리 트렁케이티드 푸리에 변환과 다항식 곱셈 응용

초록

트렁케이티드 푸리에 변환(TFT)을 입력 배열 자체에서 수행하도록 알고리즘을 개편해 O(n log n) 시간과 O(1) 보조 공간을 달성하였다. 이를 기반으로 임의 차수 다항식의 곱셈을 메모리 제한 하에서도 효율적으로 수행한다.

상세 요약

트렁케이티드 푸리에 변환(TFT)은 van der Hoeven이 제안한 기법으로, 입력 길이가 2^k가 아닐 때도 FFT와 유사한 O(n log n) 복잡도로 변환을 수행한다. 기존 구현은 입력을 2^k 크기의 버퍼에 복사하거나, 추가적인 O(n) 임시 배열을 사용해 메모리 사용량이 급증한다. 이 논문은 이러한 메모리 오버헤드를 완전히 제거하고, 입력 배열 자체를 제자리(in‑place)에서 변환하도록 알고리즘을 재구성한다. 핵심 아이디어는 재귀적 분할-정복 구조를 유지하면서, 각 단계에서 필요한 ‘버터플라이’ 연산을 기존 데이터 위치에 직접 적용하고, 필요시 작은 스택 변수만을 사용해 임시 값을 보관하는 것이다. 특히, 역변환(inverse TFT)에서도 동일한 제자리 전략을 적용하기 위해, 역버터플라이 연산과 정규화 과정을 정확히 맞추는 기법을 제시한다. 시간 복잡도는 전통적인 FFT와 동일하게 Θ(n log n)이며, 보조 공간은 O(1) 상수 개의 워드에 불과하다. 논문은 또한 이 제자리 TFT를 이용해 임의 차수의 다항식 곱셈을 수행하는 알고리즘을 설계한다. 기존의 공간 제한 FFT 기반 곱셈은 차수가 2^k−1 이하인 경우에만 효율적이었으나, 새로운 방법은 입력 차수와 무관하게 동일한 메모리 제한 하에서 O(n log n) 시간으로 결과를 얻는다. 실험 결과는 메모리 사용량이 크게 감소하면서도 실행 시간은 기존 구현과 거의 동일하거나 약간 향상됨을 보여준다. 이 연구는 대규모 데이터 처리나 메모리 제약이 심한 임베디드 시스템에서 FFT 기반 알고리즘을 적용할 수 있는 새로운 길을 열었다.