숫자 이론 기반 이산 힐베르트 변환의 첫 시도

초록

본 논문은 기존 이산 힐베르트 변환(DHT)의 행렬 원소인 홀수 역수를 2의 거듭 제곱(mod 16)으로 나눈 뒤, 이를 이용한 16점 수치 이론 변환 행렬을 제안한다. 정방 행렬을 이용해 신호를 변환하고 역행렬로 복원했으나, 역변환이 전변환과 동일하지 않아 현재는 임시 결과로 제시한다. MATLAB 실험을 통해 몇 가지 샘플 신호에 대한 변환·복원을 확인하였다.

상세 분석

이 논문은 이산 힐베르트 변환(DHT)의 수학적 구조를 번호 이론 변환(Number‑Theoretic Transform, NTT)과 연결하려는 시도로, 기존 DHT 행렬이 모두 ‘홀수 역수(odd reciprocals)’ 형태임을 관찰하고 이를 모듈러 연산으로 정수화한다는 아이디어를 제시한다. 구체적으로 저자는 2ⁿ(여기서는 2⁴=16)으로 모듈러 연산을 수행해 모든 원소를 0~15 사이의 정수로 변환하고, 이 행렬을 순환(circulant) 형태로 유지한다.

하지만 몇 가지 근본적인 문제가 존재한다. 첫째, DHT는 무한 길이 신호에 정의된 비국소 연산이며, 이를 유한 길이(16점)로 강제 절단하면 근본적인 근사오차가 발생한다. 논문은 이를 ‘근사’라고만 언급하고 정량적 오류 분석을 제공하지 않는다. 둘째, 홀수 역수를 16으로 나눈 나머지는 항상 유일하지만, 역수 자체가 16과 서로소가 아니면 모듈러 역원을 구할 수 없으며, 실제 행렬 원소는 실수값(예: 1/3, 1/5 등)에서 정수값(예: 5, 3 등)으로 급격히 변형된다. 이 과정에서 원래 DHT가 갖는 위상 정보와 연산적 특성이 손실된다.

또한 제시된 ‘역행렬’은 실수값을 갖는 전통적인 역행렬이며, 모듈러 역원과는 전혀 다르다. 따라서 앞서 정의한 16점 NTT‑DHT와 역행렬 사이에 일관성이 없으며, 논문 자체에서 “역변환이 전변환과 동일하지 않다”는 점을 인정한다. 이는 현재 제안이 완전한 수학적 변환이라기보다 임시적인 실험적 구현에 가깝다는 것을 의미한다.

실험 부분에서는 네 종류의 0‑1 패턴을 입력으로 사용했지만, 결과 그래프는 축척이 불명확하고 정량적 평가(예: 신호‑대‑노이즈 비율, 재구성 오차) 없이 시각적 비교만 제공한다. 또한 변환 후 얻어지는 값이 0‑15 범위에 머무는지, 혹은 부동소수점으로 다시 확장되는지 명확히 설명되지 않는다.

결론적으로, 이 논문은 NTT와 DHT를 연결하려는 흥미로운 아이디어를 제시했지만, 수학적 정밀성, 일반화 가능성, 그리고 실용적 유용성 측면에서 충분히 다듬어지지 않았다. 향후 연구에서는 (1) 모듈러 역원을 이용한 진정한 수론적 역변환 정의, (2) 무한 길이 DHT를 유한 길이로 근사하는 오류 분석, (3) 다양한 길이와 모듈러 기반을 탐색하는 일반화된 프레임워크가 필요하다.