행렬 p 노름 근사 어려움 p가 일 이 무한이 아닐 때 복잡성

초록

본 논문은 유리수 p∈

상세 분석

이 연구는 행렬 연산에서 가장 기본적인 규모 측정인 p‑노름의 계산 복잡성을 심도 있게 탐구한다. p‑노름 ‑ ‖A‖ₚ는 정의에 따라 ‑ max_{‖x‖ₚ=1}‖Ax‖ₚ 로 표현되며, p=2인 경우에는 특이값 분해를 통해 정확히 계산할 수 있는 반면, p=1 혹은 p=∞인 경우에도 선형계획법이나 최대 절대 행합을 이용해 다항시간에 구할 수 있다. 그러나 저자들은 p가 이 세 특수값을 벗어날 때는 상황이 급격히 달라진다는 점을 강조한다.

우선, 저자들은 기존에 알려진 MAX‑CUT, CLIQUE 등 전형적인 NP‑hard 문제들을 행렬 p‑노름 근사 문제로 귀환(reduction)한다. 구체적으로, 임의의 그래프 G의 인접 행렬을 적절히 변형하여 p‑노름이 그래프의 컷 가중치와 직접적인 선형 관계를 갖도록 만든다. 이때 p가 1, 2, ∞가 아니면 변형된 행렬의 구조가 비선형적인 스케일링을 필요로 하며, 이는 p‑노름이 실제로 그래프의 최적 컷을 반영하도록 만든다. 따라서 p‑노름을 일정 비율 이하로 근사하면 원래의 NP‑hard 문제를 동일한 비율로 해결할 수 있게 되므로, P=NP 가정 없이는 다항시간 근사 알고리즘이 존재하지 않는다.

다음으로, 저자들은 ‑∞,p 혼합 노름 ‑ ‖A‖{∞,p}=max_i ‖A{i*}‖ₚ (i번째 행의 p‑노름의 최댓값) 에 대해서도 복잡도 경계를 설정한다. 여기서는 행별 p‑노름을 계산하는 것이 기본적으로 p‑노름 계산과 동등한 난이도를 갖는다는 점을 이용한다. 특히 p=1,2,∞인 경우에도 행별 최대값을 구하는 것이 단순히 행의 합이나 최대 절댓값을 찾는 것과 동일하지만, 고정된 상대 정밀도 ε>0 로 근사하는 문제는 여전히 NP‑hard 로 귀결된다. 이는 행렬 전체에 대한 p‑노름과는 별개로, 행별 구조가 복잡성을 내포하고 있음을 보여준다.

기술적인 핵심은 두 가지 귀환 기법이다. 첫 번째는 “벡터‑p‑노름 귀환”으로, 임의의 벡터 최적화 문제를 행렬 p‑노름 형태로 바꾸는 과정이다. 여기서는 p‑노름의 균등성( homogeneity )과 삼각 부등식이 중요한 역할을 한다. 두 번째는 “행‑p‑노름 귀환”으로, 행별 p‑노름을 최대화하는 문제를 기존의 NP‑hard 문제와 연결한다. 두 귀환 모두 다항시간에 수행 가능하도록 설계되었으며, 근사 비율을 보존한다는 점에서 강력하다.

또한, 저자들은 복잡도 이론에서 흔히 사용되는 “gap‑preserving reduction” 개념을 활용한다. 즉, 원 문제와 변환된 행렬 p‑노름 문제 사이에 명확한 성능 격차(gap)를 유지함으로써, 근사 알고리즘이 그 격차를 좁히지 못하면 원 문제도 근사하기 어렵다는 논리를 전개한다. 이를 통해 “임의의 상대 정밀도” 라는 강력한 부정 결과를 얻는다.

마지막으로, 논문은 이러한 NP‑hardness 결과가 실제 알고리즘 설계에 미치는 함의를 논한다. 예를 들어, 머신러닝에서 자주 쓰이는 Lₚ 정규화나 신경망의 가중치 스케일링 등에 있어 p가 1,2,∞가 아닌 경우 근사적인 최적화 기법을 사용할 때 이론적 한계가 존재한다는 점을 강조한다. 따라서 실무에서는 p를 특수값으로 제한하거나, 근사 대신 휴리스틱 방법을 채택해야 함을 시사한다.