정규 정수 벡터 집합의 볼록 껍질은 다면체이며 효율적으로 계산 가능

초록

본 논문은 정규 언어로 표현되는 정수 벡터 집합을 숫자 결정 다이어그램(NDD)으로 모델링하고, 그 집합의 볼록 껍질이 항상 유한한 면을 가진 다면체(polyhedron)임을 증명한다. 또한, NDD 구조를 이용해 해당 다면체를 효과적으로(다항 시간 내) 계산할 수 있는 알고리즘을 제시한다.

상세 분석

논문은 먼저 정규 집합을 문자열 형태로 인코딩하는 전통적인 방법을 재검토한다. 여기서 각 문자열은 자리수 벡터(digit vector)의 시퀀스로, 가장 낮은 자리수부터 혹은 가장 높은 자리수부터 읽는다. 이러한 인코딩은 기존의 자동이론에서 정규 언어와 정수 벡터 사이의 동형성을 제공한다. 저자들은 이를 기반으로 Number Decision Diagram(NDD)이라는 자료구조를 도입한다. NDD는 결정적 유한 자동기(deterministic finite automaton)를 확장한 형태로, 각 전이(edge)가 특정 자리수 벡터를 라벨링하고, 경로(path)가 하나의 정수 벡터를 정의한다. 이 구조는 정규 집합을 압축적으로 표현하면서도 연산(합집합, 교집합, 차집합 등)을 자동적으로 수행할 수 있다.

핵심 기여는 “볼록 껍질(convex hull)”을 NDD가 표현하는 무한 집합에 적용했을 때, 그 결과가 다면체라는 정형성을 보였다는 점이다. 이를 위해 저자들은 먼저 NDD가 정의하는 집합 S⊆ℤⁿ을 실수 공간 ℝⁿ으로 확장하고, 각 경로가 생성하는 벡터들의 선형 결합을 고려한다. 중요한 관찰은 NDD의 전이 라벨이 모두 정수이며, 전이의 반복(루프)은 벡터의 선형 조합을 생성한다는 점이다. 따라서 S의 볼록 껍질은 유한 개의 ‘극점(extreme points)’과 ‘극방향(extreme rays)’으로 기술될 수 있다. 이때 극점은 NDD의 유한한 경로에 대응하고, 극방향은 루프 구조에 의해 생성되는 무한히 늘어나는 방향을 나타낸다. 저자들은 이러한 극점·극방향 집합을 효과적으로 추출하는 알고리즘을 제시한다. 구체적으로, NDD를 그래프 이론적 관점에서 강하게 연결된 구성요소(SCC)와 사이클 베이스(cycle basis)로 분해하고, 각 SCC 내에서 가능한 벡터 차이를 계산한다. 그런 다음, 선형 프로그래밍(LP) 기법을 이용해 각 차이에 대한 최소·최대 스칼라 계수를 구함으로써 극점과 극방향을 정량화한다.

알고리즘 복잡도 분석에서는 NDD의 상태 수를 |Q|, 전이 수를 |δ|라 할 때, 전체 과정이 O(|Q|³ + |δ|·|Q|) 정도의 다항 시간 안에 수행됨을 보인다. 이는 기존에 정규 집합의 볼록 껍질을 직접적으로 계산하려면 무한히 많은 점을 고려해야 하는 비효율성을 크게 개선한다. 또한, 저자들은 구현상의 최적화 방안으로, 동일한 사이클에 의해 생성되는 중복 벡터를 해시 테이블로 관리하고, LP 단계에서 단순히 두 개의 변수만을 포함하는 작은 문제로 축소함으로써 실제 실행 시간도 크게 단축될 수 있음을 실험을 통해 입증한다.

이 논문의 결과는 정규 언어 기반 모델링이 널리 쓰이는 프로그램 분석, 형식 검증, 데이터베이스 질의 최적화 등 다양한 분야에 직접적인 영향을 미친다. 특히, 정수 선형 프로그램(ILP)이나 혼합 정수 선형 프로그램(MILP)에서 제약조건을 정규 언어로 기술하고, 그 볼록 껍질을 다면체 형태로 추출함으로써 기존 솔버와의 연동이 가능해진다. 또한, NDD와 같은 구조적 표현을 활용하면, 무한히 큰 상태 공간을 가진 시스템(예: 카운터 기계, 파이프라인 버퍼)의 안전성 검증에서도 유용한 추상화 기법을 제공한다는 점에서 학문적·실용적 의의가 크다.