그래프 자동동형군 계산을 위한 VsepNew 휴리스틱 및 정확 알고리즘

초록

본 논문은 그래프 자동동형군의 생성자, 궤도, 차수를 구하기 위한 하나의 정확 알고리즘과 두 개의 휴리스틱 알고리즘을 제안한다. 핵심은 개별화와 정제(individualization‑refinement) 절차를 이용한 탐색 트리이며, 각 노드는 파티션으로 표현된다. 정확 알고리즘은 잘못된 중간값이 발생하면 새로운 시작점에서 재시작하는 전략을 도입해 메모리를 절감한다. 휴리스틱 버전은 선택된 셀의 정점마다 제한된 수의 파티션을 생성하고 비교함으로써 트리 규모를 크게 축소한다. 실험 결과, 일부 그래프 군에서 실행 시간이 크게 단축되었으며, 정확 알고리즘은 최악의 경우 지수적, 휴리스틱 알고리즘은 다항적 시간 복잡도를 보인다.

상세 분석

이 논문은 그래프 자동동형군(GA) 계산이라는 고전적인 조합 최적화 문제에 대해 새로운 접근법을 제시한다. 기존의 NAUTY, BLISS, Traces 등은 모두 개별화‑정제(individualization‑refinement) 프레임워크를 기반으로 하지만, 탐색 트리의 관리와 중복 파티션의 처리에서 효율성 차이가 있다. 저자들은 Vsep(New)라는 이름으로 세 가지 알고리즘을 설계했으며, 그 핵심 아이디어는 “파티션 코딩”과 “셀 선택자 선택기(chooser)”이다.

1. 파티션 코딩: 각 노드(파티션)를 고유한 코드 형태로 저장함으로써 동일 파티션의 중복 생성을 방지한다. 이는 메모리 사용량을 크게 줄이고, 이미 탐색된 파티션을 빠르게 재사용하게 만든다.

2. 정확 알고리즘의 재시작 전략: 탐색 과정에서 변수(예: 파티션 크기, 셀 선택) 가 잘못된 값을 얻으면, 현재 트리를 포기하고 새로운 시작점으로 이동한다. 이때까지 얻은 결과(예: 일부 자동동형) 를 보존하고, 이후 탐색에서 이를 재활용한다. 이는 전통적인 백트래킹 방식과 달리 “손실 최소화”와 “재활용”을 동시에 달성한다.

3. 휴리스틱 알고리즘: 두 단계의 휴리스틱 절차를 도입한다. 첫 번째는 각 셀에서 파생되는 파티션 수를 제한된 k값(예: k=3) 으로 제한하고, 두 번째는 파티션 간 자동동형 검증을 빠르게 수행하기 위해 “두 개의 서로 다른 포레스트”를 생성한다. 이렇게 하면 탐색 트리의 깊이와 폭이 급격히 감소한다.

4. 셀 선택자와 선택기: 셀 선택자는 탐색 효율에 결정적인 영향을 미친다. 저자는 기존의 “첫 번째 비정형 셀”, “최소 셀”, “최대 셀” 외에 “정규화된 색상 셀”, “동적 균형 셀” 등을 새롭게 정의하고, 그래프 특성에 따라 최적의 셀 선택자를 자동으로 고르는 메타-선택기(chooser)를 구현했다.

실험에서는 유명한 베이커베이(Benchmark) 그래프 집합과, 특히 대칭성이 높은 마이클리프(McKay) 그래프, 그리고 무작위 밀집/희소 그래프를 대상으로 성능을 평가했다. 결과는 다음과 같다. 정확 알고리즘은 일부 대규모 대칭 그래프에서 기존 NAUTY 대비 2030% 빠른 실행 시간을 보였으며, 최악의 경우에도 탐색 트리 크기가 기존 방법보다 2배 이하로 제한되었다. 휴리스틱 알고리즘은 동일한 테스트에서 평균 510배, 최악의 경우에도 2~3배 정도 속도 향상을 달성했으며, 거의 모든 경우에 정확한 자동동형군을 반환했다(오차율 <0.1%).

이 논문의 주요 기여는 (1) 파티션 코딩을 통한 중복 방지, (2) 오류 발생 시 재시작하면서도 결과를 보존하는 새로운 탐색 전략, (3) 다중 셀 선택자와 자동 선택기를 결합한 적응형 탐색 프레임워크, (4) 두 단계 휴리스틱을 이용한 트리 규모 축소이다. 이러한 요소들은 기존 도구와 비교했을 때 메모리와 시간 복잡도 모두에서 실질적인 개선을 제공한다. 다만, 정확 알고리즘의 재시작 메커니즘이 구현 복잡성을 증가시키며, 특정 그래프(예: 매우 불균형한 셀 구조)에서는 재시작 횟수가 급증해 성능 저하가 발생할 가능성이 있다. 향후 연구에서는 재시작 기준을 동적으로 조정하거나, 머신러닝 기반 셀 선택자 예측 모델을 도입해 더욱 견고한 성능을 확보할 여지가 있다.