자유모노이드 카운팅 함수 동치 검사 O(n) 알고리즘

초록

이 논문은 자유모노이드 (M_r) 위의 두 카운팅 함수가 유계 함수 차이만큼 동치인지 판단하는 새로운 알고리즘을 제시한다. 기존 알고리즘은 (r>2) 일 때는 (O(n)) 시간이었지만 (r=2) 에서는 (O(n^2)) 으로만 알려졌다. 저자들은 명시적 기저 전개와 가중 사각형 합산을 이용해 (S_r) 이라는 새로운 기저를 구성하고, 이를 통해 모든 (r\ge 2) 에 대해 (O(n)) 시간(정수 계수) 혹은 (O(n\log n)) 시간(유리 계수)으로 동치 여부를 판단할 수 있음을 증명한다.

상세 분석

논문은 먼저 자유모노이드 (M_r) 위의 기본적인 개념을 정리한다. 단어 (v) 가 (u) 에 포함되는 경우를 ‘발생’이라 정의하고, 특정 단어 (v) 에 대한 발생 횟수를 세는 함수 (\rho_v) 를 ‘초기 카운팅 함수’라 부른다. 일반적인 카운팅 함수는 이러한 (\rho_v) 들의 유한 선형 결합으로 표현되며, 두 함수가 유계 차이만큼 동치인지 여부는 차이가 (\ell^\infty(M_r)) 에 속하는지와 동치이다. 기존 연구에서는 ‘좌·우 확장 관계’ (l_w, r_w) 를 이용해 유계 함수 공간을 생성하고, 이를 기반으로 (B_r={\rho_w\mid w\in W_r}) 라는 기저를 정의하였다. 그러나 (B_r) 에 대한 전개는 입력 크기 (n) 에 대해 (\Theta(n^3)) 개의 항을 만들 수 있어 실제 알고리즘의 시간 복잡도가 급격히 증가한다.

핵심 기여는 새로운 기저 (S_r) 의 도입이다. (S_r) 는 (B_r) 의 원소들을 ‘가중 사각형’ 형태로 압축하여, 어떤 (\rho_w) 도 (O(|w|)) 개의 항만으로 전개할 수 있게 만든다. 이를 위해 저자들은 ‘명시적 기저 전개 (D(\rho_w))’와 ‘계수 합산 절차 (N)’(Lemma 2.4)를 결합한다. 절차 (N) 은 동일한 (\rho_w) 가 여러 번 등장할 때 이들을 한 번에 합쳐 주며, 정수 계수의 경우 (O(rn)), 유리 계수의 경우 (O(rn\log(rn))) 시간에 수행된다.

새 알고리즘은 다음과 같이 동작한다. (1) 입력 함수 (f=\sum_i \alpha_i\rho_{w_i}) 의 각 (\rho_{w_i}) 를 (S_r) 기저에 맞게 (D(\rho_{w_i})) 로 전개한다. (2) 전개된 모든 항을 절차 (N) 에 넣어 계수를 정리한다. (3) 최종적으로 남은 계수가 모두 0이면 (f) 는 유계 함수이며, 두 함수 (f,g) 의 동치는 각각을 (f-g)에 대해 같은 과정을 적용해 확인한다. 이 과정에서 전개된 항의 총 개수는 (O(n)) 이므로 전체 복잡도는 (O(r^3 n)) (정수) 혹은 (O(r^3 n\log(rn))) (유리) 가 된다. 특히 (r=2) 인 경우에도 압축 비율 (p(2)=1) 문제를 새로운 기저가 해결해 (O(n)) 시간을 달성한다.

또한 논문은 이 알고리즘이 ‘가중 자동기’와 ‘비용 레지스터 자동기’의 유계성 판단 문제와 직접 연관됨을 언급한다. 기존에 PSPACE‑complete 로 알려진 다항식 모호성 자동기의 절대 유계성 문제와 달리, 여기서 다루는 카운팅 함수는 선형적인 구조를 가지므로 다항식 시간 내에 해결 가능함을 보여준다. 이는 이론적 컴퓨터 과학, 특히 조합적 군론과 형식 언어 이론 사이의 교차점에서 새로운 응용 가능성을 열어준다.