시간 주파수 마스킹 향상을 위한 거의 타이트 윈도우 설계

본 논문은 시간‑주파수(T‑F) 마스킹 기반 오디오 신호 처리에서 핵심 변환인 짧은 시간 푸리에 변환(STFT)의 성능을 좌우하는 윈도우 설계 문제를 새롭게 접근한다. 기존 연구는 주로 윈도우의 주파수 응답—예를 들어 사이드로브 감소, 메인 로브 폭—을 최적화했으며, 재구성 단계에서 발생하는 수치적 불안정성, 즉 프레임 연산자 S₍g₎의 조건수 κ(G_g)를 충분히 고려하지 않았다. 저자는 이러한 한계를 극복하기 위해 ‘거의 타이트(near‑tight)’ 윈도우를 설계하는 최적화 프레임워크를 제안한다. 논문은 먼저 STFT를 이산 가보 변환(DGT)이라는 프레임 이론의 관점에서 재정의한다. 윈도우 g와 시간 이동 폭 a, 주파수 채널 수 M에 의해 정의된 Gabor 시스템 G(g,a,M)은 프레임이면 역변환이 가능하고, 이때 재구성에 사용되는 윈도우 h는 g의 듀얼 윈도우이다. 프레임이 과잉(중복)될 경우 듀얼 윈도우는 무수히 존재하지만, 재구성 안정성을 높이기 위해 조건수가 낮은 ‘타이트’ 윈도우가 선호된다. 타이트 윈도우는 S₍g₎=A·I를 만족해 κ(G_g)=1이 되지만, 일반적으로 주파수 응답이 좋지 않아 실제 신호 처리에 적합하지 않다. 이에 저자는 두 가지 목표를 동시에 만족하는 윈도우 설계를 목표로 한다. 첫 번째는 윈도우를 파싱밸 타이트 윈도우 집합 T에 가깝게 만들어 조건수를 낮추는 것이고, 두 번째는 원하는 주파수 크기 응답 d