기하복잡도 이론 입문

초록

본 강의노트는 기하복잡도 이론(GCT)의 기본 구조와 불변량 이론을 소개한다. 복잡도 클래스 P와 NP를 대수기하학·표현론으로 연결하고, “플립” 원리를 통해 하한 문제를 상한 문제로 전환한다. 주요 내용은 가환군·비가환군의 표현론, 대칭군과 일반선형군의 표준표현, 리틀우드–리차드슨 계수와 플레시즘 문제, 클래스 다양체와 방해체 개념, 그리고 양자군을 이용한 양성 공식 가설이다.

상세 분석

이 강의노트는 GCT의 전체적인 설계도를 단계별로 제시한다. 첫 번째 파트에서는 복잡도 이론의 전통적인 하한 접근을 부정적인 가정(예: P≠NP)에서 시작해, 이를 “플립”이라는 메타논리적 변환을 통해 양적인 상한 문제로 바꾸는 전략을 설명한다. 구체적으로, NP‑complete 문제를 나타내는 클래스 다양체 χ_NP와 P‑class 다양체 χ_P를 GL_n(C)의 작용을 갖는 G‑대수로 모델링하고, 두 다양체 사이의 포함 관계가 존재한다면 좌표환(R_NP → R_P)의 사상으로 이어진다. Weyl의 완전 가분성 정리와 같은 고전적인 표현론 결과를 이용해, R_NP(d)와 R_P(d) 각각을 유한 차원의 GL_n(C) 표현으로 분해한다. 여기서 “방해체(obstruction)”는 R_NP(d)에는 존재하지만 R_P(d)에는 존재하지 않는 비가환 irreducible 표현을 의미한다. 방해체가 모든 차수 d에 대해 존재한다면 χ_NP는 χ_P에 G‑부분다양체로 삽입될 수 없으며, 이는 NP⊄P를 증명하는 직접적인 algebraic 증거가 된다.

논문은 이러한 방해체를 효율적으로 구성하는 알고리즘이 존재한다는 “GCT 플립” 가설을 제시한다. 즉, “NP⊄P를 증명하기 위해 방해체를 찾는 것이 어려운 문제라면, 실제로는 방해체를 다항시간에 찾을 수 있다”는 역설적 주장이다. 이 가설을 뒷받침하기 위해 저자들은 리틀우드–리차드슨 계수, 플레시즘, 그리고 Kronecker 계수와 같은 고전적인 구조 상수들의 비소거 문제를 제시하고, 이를 양자군(특히 비표준 양자군) 이론과 연결한다. 양자군의 결정론적 구조와 ‘양성 공식(positive formula)’ 가설을 통해, 복잡도 상수들이 부호가 없는(양수) 형태로 표현될 수 있음을 보이고, 이는 결국 Riemann 가설의 유한체 버전과 연관된 심층적인 수론적 추정과 맞물린다.

또한, 강의노트는 전통적인 불변량 이론을 재구성한다. 유한군, 대칭군 S_n, 그리고 연속군 GL_n(C)의 표현을 단계별로 구축하고, Weyl의 단위 트릭, Schur–Weyl 이중성, 그리고 고전적인 Frobenius 공식 등을 상세히 설명한다. 이러한 배경 지식은 클래스 다양체와 방해체를 정의하고, 그 존재를 검증하는 데 필수적인 도구가 된다. 마지막으로, 양자군의 Hopf 대수 구조, q‑아날로그 유니터리 군 U_q, 그리고 Gelfand–Tsetlin 기저 등을 소개함으로써, 양성 공식 가설을 양자군의 결정론적 표현론에 귀속시키는 방법론을 제시한다. 전체적으로 이 강의노트는 GCT를 이해하기 위한 수학적 토대를 폭넓게 제공하면서, 복잡도 이론과 순수 수학 사이의 교량을 놓는 구체적 로드맵을 제시한다.