최대 부피 부분 행렬 선택 문제의 지수적 근사 불가능성

초록

이 논문은 $m \times n$ 실수 행렬 $A$와 정수 $k< n$이 주어졌을 때, $k$개의 열을 골라 만든 평행육면체의 부피를 최대로 하는 문제를 다룬다. 저자들은 $k=\delta n$($0<\delta<1$)인 경우, 어떤 상수 $c>0$가 존재하여 이 문제를 $2^{-ck}$ 이하의 비율로 근사하는 것이 $P=NP$가 아니면 불가능함을 증명한다. 즉, 근사 비율이 지수적으로 작은 경우에도 근사 알고리즘이 존재하지 않음을 보여준다.

상세 분석

문제는 선택된 $k$개의 열 벡터가 이루는 $k$-차원 평행육면체의 부피, 즉 $\sqrt{\det(A_S^\top A_S)}$를 최대화하는 것으로 정의된다. 부피는 행렬 $A_S$의 열이 선형 독립일 때 양수이며, 열이 거의 직교에 가까울수록 부피가 크게 된다. 저자들은 이 최적화 문제가 NP‑hard임을 기존 연구와 연결시키면서, 더 나아가 근사 난이도를 지수 수준까지 끌어올린다. 핵심은 강력한 PCP 정리와 “라벨 커버(Label Cover)” 문제에서의 고정된 오류율을 이용한 감소(reduction)이다. 라벨 커버 인스턴스를 적절히 변형해 $m$개의 행과 $n$개의 열을 갖는 행렬 $A$를 구성한다. 각 라벨은 정규 직교 벡터(예: 하다마드 행렬의 행)로 매핑되고, 제약 조건은 두 열 사이의 내적을 0 혹은 1로 강제한다. 만족 가능한 경우에는 선택된 $k$열이 거의 직교하므로 부피가 $1$에 가깝고, 만족 불가능한 경우에는 어느 정도의 상관관계가 강제돼 부피가 $2^{-c k}$ 이하로 급격히 감소한다. 여기서 $c$는 라벨 커버의 오류율과 감소 과정에서 사용된 확장 차원 수에 의해 결정된다. 또한 $k=\delta n$로 설정함으로써 전체 열 중 일정 비율만을 선택하도록 제한한다. 이때 $\delta$는 라벨 커버 인스턴스의 압축 비율에 따라 조정 가능하며, $0<\delta<1$인 상수값이 존재한다는 것이 증명된다. 결과적으로 “YES” 인스턴스와 “NO” 인스턴스 사이의 부피 격차가 $2^{-ck}$라는 지수적 비율로 구분되므로, 이 비율 이하의 근사 알고리즘이 존재한다면 라벨 커버 문제를 다항시간에 해결하게 되어 $P=NP$가 된다. 논문은 또한 이 감소가 선형 대수적 구조를 보존함을 보이며, 부피 최적화가 단순히 행렬식 최대화와 동치임을 이용해 기존의 “Maximum Determinant Submatrix” 문제와도 연결한다. 이러한 접근법은 부피 기반 선택 문제의 근사 난이도가 기존의 “Maximum Coverage”나 “Densest $k$‑Subgraph”보다 훨씬 강력함을 시사한다.