밀도 높은 k 서브그래프 탐색을 위한 비볼록 완화와 최적화 지형 분석

초록

본 논문은 Densest k‑Subgraph 문제에 대해 대각 로딩을 이용한 비볼록 연속 완화를 제안하고, λ ≥ 1 일 때 전역 최적값이 원 문제와 일치함을 증명한다. 또한 정수 정류점은 모두 지역 최대점이며, 비정수 정류점은 엄격한 안장점이라는 지형을 밝혀낸다. 이를 기반으로 안장을 회피하는 Frank‑Wolfe 변형 알고리즘을 설계해 제한된 단계 내에 정수 지역 최대점으로 정확히 수렴함을 보인다.

상세 분석

논문은 먼저 Densest k‑Subgraph(D k S) 문제를 이진 0‑1 변수와 그래프 인접 행렬 A 로 표현하고, 대각 로딩 파라미터 λ > 0 을 도입해 목적 함수를 ½ xᵀ(A+λI)x 로 변형한다. 이 변형은 원 문제와 동일한 제약식(∑ x_i = k, 0 ≤ x_i ≤ 1)을 유지하면서 연속적인 볼록 껍질로 완화한다. 저자는 λ ≥ 1이면 완화 문제(3)의 전역 최적값이 원 이산 문제와 동일함을 정리 2.3 으로 증명한다. λ = 1 일 때는 전역 최적값은 일치하지만 비정수 최적해가 존재할 수 있기에, λ > 1 로 선택하면 최적해 자체도 정수임을 보장한다.

다음으로 최적화 지형을 분석한다. 정의 3.3 에서 제시한 정류점 조건을 KKT 형태로 전개하고, 정류점이 존재하려면 스칼라 μ 가 존재해 A+λI 의 그라디언트 v_i 가 선택된 변수 집합 S₁, 미선택 집합 S₀, 그리고 0 < x_i < 1 인 집합 S_f 에 대해 각각 v_i ≥ μ, v_i ≤ μ, v_i = μ 를 만족해야 함을 보인다(정리 3.4). 이로부터 정수 정류점은 max_{i∈S₀} v_i ≤ min_{i∈S₁} v_i 로 특징지어지며(코롤러리 3.5), λ > 1 일 때는 모든 정수 정류점이 실제 지역 최대점임을 정리 3.7 로 증명한다. 비정수 정류점은 반드시 v_i = μ 인 자유 변수들이 존재하므로 해시계의 헤시안에 양의 고유값이 존재해 엄격한 안장점이 된다(정리 3.10).

또한 λ 값에 따른 지역 최대점 집합의 포함 관계를 정리 3.2 로 제시한다. λ₂ > λ₁ > 1 이면 λ₁ 로 얻은 지역 최대점은 λ₂ 로도 지역 최대점이 된다. 즉 λ 를 크게 할수록 정류점이 늘어나 지형이 복잡해지며, 작은 λ(>1) 가 더 “친절한” 지형을 제공한다는 직관적 설명을 제공한다.

알고리즘적 기여는 안장을 회피하는 Frank‑Wolfe 변형이다. 기존 Frank‑Wolfe 는 선형 최적화 단계에서 현재 정류점이 안장점이면 멈출 위험이 있다. 저자는 안장점에서의 엄격한 양의 곡률을 이용해 명시적인 상승 방향을 찾아 이동함으로써 안장을 탈출한다. 이 과정은 제한된 반복 횟수 내에 정수 지역 최대점에 도달함을 정리 4.1 에서 증명한다. 따라서 추가적인 라운딩 단계 없이도 최종 해가 0‑1 형태임을 보장한다.

전체적으로 이 논문은 D k S 문제에 대한 비볼록 완화의 정확성, 지형의 구조적 특성, 그리고 이를 활용한 효율적 알고리즘을 일관되게 연결시켜, 기존 경험적 성공을 이론적으로 정당화한다.