페르미안트와 고정 폭 이마니언트의 계산 복잡도

초록

이 논문은 통계 물리학에서 도입된 페르미안트 Fermₖ가 k > 2인 경우 #P‑hard이며, k = 2일 때는 ⊕P‑hard임을 보인다. 심지어 평면 그래프의 인접 행렬에 대해서도 같은 난이도를 유지한다. 이를 통해 폭이 2 이하인 영(Young) 도표에 대한 이마니언트 Imm_λ의 계산이 폴리노미얼 시간에 가능하려면 NP ⊆ RP가 되어야 함을 증명한다.

상세 분석

논문은 먼저 페르미안트 Fermₖ를 정의한다. 이는 행렬 A의 모든 순열 π에 대해 (−k)^{c(π)}·∏{i}A{i,π(i)}를 합한 값으로, 여기서 c(π)는 π가 가진 사이클 수이다. k가 정수 상수일 때, 특히 k > 2이면 이 함수는 기존의 행렬식(특히 k = 1)과 영(특히 k = 0) 사이의 중간 형태로 볼 수 있다. 저자들은 복잡도 이론의 표준 기법을 이용해, Fermₖ 계산을 #SAT 혹은 영-사이클 카운팅 문제와 다항식 시간 환원함으로써 #P‑hard임을 증명한다. 핵심은 사이클 수가 순열의 구조와 직접 연결되므로, 그래프의 매칭이나 커버링 문제와 자연스럽게 대응한다는 점이다. k = 2인 경우에는 부호가 (−2)^{c(π)}이 되며, 이는 순열의 사이클 수에 따라 부호가 바뀌는 ⊕P‑complete 문제와 동치임을 보인다. 특히 평면 그래프의 인접 행렬에 제한을 두어도 환원이 유지되므로, 그래프 이론적 제한 하에서도 계산 난이도가 낮아지지 않는다.

다음으로 이 결과를 이마니언트 Imm_λ와 연결한다. 이마니언트는 문자표 λ에 대한 영표현의 차원을 가중치로 하는 순열 가중합이며, λ의 폭(width)이 2이면 해당 영표현은 스핀-½ 시스템의 대칭군과 연관된다. 저자들은 λ의 폭이 2인 경우 Imm_λ가 Ferm₂와 다항식 시간 상수배 관계에 있음을 보인다. 따라서 Imm_λ를 폴리노미얼 시간에 계산할 수 있다면 Ferm₂도 P에 속하게 되고, 이는 ⊕P‑hard 문제를 P에서 해결한다는 의미다. 복잡도 이론에 따르면 이는 NP ⊆ RP, 즉 무작위화된 폴리노미얼 시간 알고리즘으로 모든 NP‑complete 문제를 해결할 수 있음을 함축한다. 결국 폭이 2 이하인 영표현에 대한 이마니언트 계산은 현재 알려진 복잡도 경계 하에서는 불가능에 가깝다는 강력한 부정 결과를 얻는다.

이 논문의 기여는 두 가지 측면에서 의미가 크다. 첫째, 페르미안트라는 새로운 행렬 함수의 복잡도 지도를 제공함으로써, 물리학에서 등장하는 비선형 대수량의 계산 난이도를 명확히 한다. 둘째, 영표현 이론과 복잡도 이론을 연결해, 제한된 폭의 영표현이라 할지라도 일반적인 경우와 동일한 어려움을 가진다는 사실을 증명한다. 이러한 결과는 양자 시뮬레이션, 통계 물리학 모델링, 그리고 조합 최적화 문제에서 새로운 알고리즘적 한계를 제시한다.