연산량 30% 절감 DCTIV DSTIV MDCT 고속 알고리즘

초록

본 논문은 최신 FFT 기법인 스케일링된 콘주게이트‑페어 스플릿‑레디스 알고리즘을 DCT‑IV에 적용해, 실수 곱셈·덧셈 연산을 기존 2 N log₂N 수준에서 17⁄9 N log₂N(≈0.94 N log₂N)으로 감소시킨다. DCT‑IV를 길이 8N의 실수 대칭 DFT로 변환하고 불필요한 연산을 제거함으로써 정확도는 유지하면서 연산량을 크게 줄였다. 동일한 기법으로 DST‑IV와 MDCT(및 역MDCT)에도 적용해 동일한 복잡도 개선을 얻었다.

상세 분석

이 연구의 핵심은 “DCT‑IV는 실수 대칭성을 가진 8N‑점 DFT의 특수 경우”라는 사실을 이용해, 최신 FFT인 스케일링된 콘주게이트‑페어 스플릿‑레디스 알고리즘을 직접 DCT‑IV에 매핑한 점이다. 기존의 스플릿‑레디스 FFT는 4 N log₂N − 6 N + 8 FLOP을 요구했으나, 저자들은 각 서브 트랜스폼에 스케일 팩터 sₙ,ₖ를 도입해 트윌리 팩터와 결합함으로써 복소 곱셈을 두 번의 실수 곱셈으로 대체했다. 이 스케일링은 특히 sₙ,ₖ가 ±1 ± i tan(2πk/N) 혹은 ±cot(2πk/N) ± i 형태가 되도록 설계돼, 곱셈 비용을 크게 절감한다.

DCT‑IV를 8N‑점 DFT로 확장할 때, 입력 시퀀스는 0으로 인터리브된 짝수 인덱스와 ±¼ 스케일된 원본 데이터가 교차 배치되는 구조가 된다. 이 구조는 FFT 단계에서 짝수‑인덱스 서브 트랜스폼(Uₖ)이 전부 0이 되게 하여, 실제 연산은 두 개의 ¼N‑점 DFT(또는 DCT‑III·DST‑III)만 남긴다. 저자들은 이 두 서브 트랜스폼을 “스케일된 출력 DCT‑III”와 “스케일된 출력 DST‑III” 형태로 재구성하고, 각각에 대해 새로운 스케일링 기법을 적용해 추가적인 곱셈을 제거한다. 특히 DCT‑III의 스케일된 버전을 도출함으로써, DCT‑IV 전체 연산을 17⁄9 N log₂N + O(N) 수준으로 낮출 수 있었다.

알고리즘의 정확도 분석에서도 중요한 통찰을 제공한다. 새로운 FFT는 기존 코울리‑투키(CT) 알고리즘과 동일한 √log N 평균 오차 성장과 O(log N) 최대 오차 경계를 유지한다. 이는 일부 기존 DCT‑IV 구현이 O(√N) 오차 성장 문제를 보였던 것과 대비된다. 따라서 연산량 감소와 동시에 수치 안정성도 확보된 셈이다.

마지막으로, MDCT와 역MDCT는 DCT‑IV와 1:2 입력/출력 관계를 갖는 특수 형태이므로, DCT‑IV에서 얻은 연산량 절감 효과를 그대로 적용할 수 있다. MDCT는 입력 전처리 단계에서 N개의 덧셈/뺄셈만 추가되므로, 전체 복잡도는 DCT‑IV + N 정도가 된다. 결과적으로 MDCT와 IMDCT도 17⁄9 N log₂N + O(N) 수준의 FLOP을 달성한다.

이러한 일련의 기법은 “FFT 개선 → DCT‑IV 개선 → DST‑IV/MDCT 개선”이라는 일관된 흐름을 보여주며, 변환 계열 전반에 걸친 연산 효율성을 동시에 끌어올렸다.