단순 확률 다중 플레이어 게임에서 내시 균형의 복잡성

초록

본 논문은 단순 확률 다중 플레이어 게임(SMG)에서 내시 균형을 찾는 문제의 계산 복잡성을 조사한다. 순수 전략 균형 중에서도 플레이어 0이 확률 1로 승리하는 경우를 물음으로써 문제를 정의하고, 이 문제가 메모리 제한이 없는 경우에도 불가능함을 증명한다. 반면, 위치 전략(정적 전략)으로 제한하면 NP‑하위 문제와 PSPACE‑상위 문제라는 구체적 복잡도 경계를 제시한다.

상세 분석

논문은 먼저 단순 확률 다중 플레이어 게임(SMG)의 형식적 정의를 제시한다. SMG는 유한 상태 집합, 플레이어가 선택할 수 있는 행동 집합, 그리고 각 상태에서 선택된 행동에 따라 확률적으로 전이되는 마코프 결정 과정으로 구성된다. 각 플레이어는 자신의 목표 집합에 도달할 확률을 보상으로 삼으며, 이러한 보상 구조는 0‑1 보상 함수로 단순화된다.

내시 균형(Nash equilibrium)은 모든 플레이어가 자신의 전략을 바꾸어도 기대 보상이 향상되지 않는 전략 프로필을 의미한다. 논문은 특히 “플레이어 0이 확률 1로 목표를 달성한다”는 조건을 만족하는 순수 전략 균형의 존재 여부를 결정하는 문제를 중심으로 다룬다. 이를 위해 저자들은 두 단계의 복잡도 분석을 수행한다.

첫 번째 단계는 언디시더블(undecidable)성을 보이는 감소(reduction)를 구성하는 것이다. 저자는 튜링 기계의 무한 반복 문제를 SMG의 구조에 인코딩한다. 구체적으로, 각 기계의 구성 상태와 헤드 위치를 게임의 상태로 매핑하고, 기계가 멈추는 경우에만 플레이어 0이 목표 상태에 도달하도록 전이 확률을 설계한다. 이때 전략은 유한 메모리를 가질 수 있도록 허용하지만, 메모리 크기에 제한을 두지 않는다. 결과적으로, “플레이어 0이 확률 1로 승리하는 순수 전략 균형이 존재하는가?”라는 질문은 튜링 기계의 정지 여부와 동치가 되며, 이는 결정 불가능함을 의미한다.

두 번째 단계에서는 전략의 형태를 제한함으로써 결정 가능성의 경계를 탐색한다. 위치 전략(positional strategy)은 현재 상태만을 기반으로 행동을 선택하는 전략이며, 이는 메모리 사용을 완전히 배제한다. 저자는 위치 전략에 대해 두 가지 복잡도 결과를 도출한다. 첫째, 위치 전략 균형 존재 여부를 판단하는 문제는 NP에 속한다. 이는 후보 위치 전략을 비트 문자열로 제시하고, 각 플레이어의 일방향 편향을 다항 시간 내에 검증할 수 있기 때문이다. 둘째, 동일 문제를 “정적(stationary) 전략”으로 제한하면 PSPACE 상위 복잡도를 갖는다. 정적 전략은 확률적 혼합을 허용하지만, 각 상태마다 고정된 확률 분포를 사용한다. 이 경우, 게임의 전체 전이 행렬을 구성하고, 선형 방정식 시스템을 풀어야 하므로 공간 복잡도가 PSPACE 수준으로 상승한다.

또한, 논문은 혼합 전략(mixed strategy) 전반에 대한 결정 가능성은 아직 미해결(open problem)임을 명시한다. 혼합 전략은 무한히 많은 확률 분포를 포함할 수 있어, 기존의 유한 메모리 혹은 위치 전략 기법으로는 완전한 분석이 어려운 점을 강조한다.

결론적으로, 저자는 SMG에서 내시 균형 탐색 문제가 전략 제한에 따라 급격히 복잡도가 변한다는 중요한 통찰을 제공한다. 순수 전략과 무제한 메모리에서는 언디시더블성을 보이지만, 위치 전략으로 제한하면 NP‑하위 문제, 정적 전략으로 제한하면 PSPACE‑상위 문제로 귀결된다. 이러한 결과는 게임 이론, 형식 검증, 그리고 자동화된 전략 합성 분야에서 전략 제한이 계산 가능성에 미치는 영향을 명확히 보여준다.