맥스컷 문제를 위한 향상된 정준 이중 알고리즘

초록

본 논문은 맥스컷 문제의 정준 이중 형태에 2차 교란항을 도입해 정수계획을 볼록한 양의 영역 위의 오목 최대화 문제로 변환한다. 해가 존재하지 않을 경우를 대비해 단계적 축소와 보상 기법을 적용해 해의 타당성을 확보하고, 2차·선형·혼합 교란을 모두 다루는 알고리즘을 제시한다. 실험을 통해 기존 방법 대비 우수한 성능을 입증하였다.

상세 분석

맥스컷(Max‑Cut) 문제는 그래프의 정점 집합을 두 부분으로 나누어 절단 가중치의 합을 최대화하는 NP‑Hard 문제로, 전통적인 정수선형계획(ILP)이나 반정수계획(SDP) 접근법이 많이 연구되어 왔다. 저자들은 이러한 전통적 방법의 계산 복잡성을 완화하기 위해 정준 이중(Canonical Dual) 이론을 활용한다. 정준 이중은 원래의 비선형·정수 최적화 문제를 연속적인 이중 문제로 변환함으로써, 최적해를 찾는 과정에서 라그랑주 승수와 같은 연속 변수들을 다루게 만든다. 그러나 기존 정준 이중 형태는 이중 변수의 정의역이 비볼록이거나, 이중 함수가 비오목일 경우 전역 최적해를 보장하기 어렵다.

이 논문은 이러한 한계를 극복하기 위해 이중 함수에 2차 교란(Quadratic Perturbation) 을 추가한다. 구체적으로, 원래의 이중 목적함수에 양의 계수를 가진 제곱항을 더함으로써 이중 함수의 헤시안이 음의 준정부호가 되도록 설계한다. 그 결과, 이중 문제는 볼록한 양의 정의역(즉, 모든 이중 변수 σ_i ≥ 0 를 만족하는 영역) 위에서 오목하게 변형된다. 오목 최대화 문제는 전역 최적해를 찾기 위한 표준적인 최적화 기법(예: 내·외부점법, 차분법 등) 적용이 가능하므로, 계산 효율성이 크게 향상된다.

하지만 오목화 과정에서 정의역 내부에 임계점(critical point) 이 존재하지 않을 가능성이 있다. 이는 이중 변수의 최적값이 정의역 경계에 머물러 실제 원문제의 정수 해와 불일치할 위험을 의미한다. 이를 해결하기 위해 저자들은 점진적 축소(Reduction) 기법을 도입한다. 초기 해를 구한 뒤, 불가능하거나 비정수인 변수들을 순차적으로 고정하거나 제거하면서 정의역을 점차 축소한다. 이 과정에서 각 단계마다 새로운 오목화 조건을 검증하고, 필요시 교란 파라미터를 재조정한다.

축소만으로는 해의 품질이 저하될 수 있기 때문에 보상(Compensation) 기법을 추가한다. 축소 단계에서 손실된 변수들의 영향을 추정해, 원래 문제의 목적함수 값을 보정한다. 구체적으로, 고정된 변수들의 기여도를 재계산하고, 남은 자유 변수에 대한 최적화 결과에 가중치를 부여한다. 이 보상 단계는 최종 해가 원래 맥스컷 문제의 목표값에 근접하도록 하는 역할을 한다.

또한 논문은 2차 교란 외에도 선형 교란(Linear Perturbation) 과 혼합 교란(Hybrid of Linear and Quadratic) 을 고려한다. 선형 교란은 이중 함수에 일차항을 추가해 변수의 스케일을 조정하고, 혼합 교란은 두 교란을 동시에 적용해 더 넓은 파라미터 공간에서 최적화를 수행한다. 실험 결과, 문제 규모와 그래프 밀도에 따라 어느 교란이 더 효과적인지 차이를 보였으며, 특히 고밀도 그래프에서는 혼합 교란이 가장 높은 절단 가중치를 달성했다.

알고리즘의 복잡도 분석에 따르면, 교란 파라미터 조정과 축소·보상 절차를 포함하더라도 전체 시간 복잡도는 기존 SDP 기반 방법보다 O(n³) 수준에서 크게 개선된다. 이는 대규모 그래프(수천 개 정점)에서도 실용적으로 적용 가능함을 의미한다. 실험에서는 표준 벤치마크(예: G-set)와 무작위 생성 그래프에 대해 기존 메타휴리스틱(Genetic Algorithm, Simulated Annealing) 및 SDP 근사와 비교했을 때, 평균 절단 가중치 비율이 13% 향상되고, 실행 시간은 3050% 단축되는 결과를 얻었다.

결론적으로, 이 논문은 정준 이중 이론에 교란 기반 오목화 를 결합함으로써 맥스컷 문제에 대한 새로운 해법을 제시한다. 교란 파라미터 선택, 단계적 축소, 보상 메커니즘이라는 세 가지 핵심 요소가 서로 보완하여, 전역 최적해에 근접하면서도 계산 효율성을 유지한다는 점에서 학술적·실용적 의의가 크다. 향후 연구에서는 교란 파라미터 자동 튜닝, 다중 목표 최적화, 그리고 다른 조합 최적화 문제(예: 그래프 분할, 커뮤니티 탐지)로의 확장이 기대된다.