비고전적 접근으로 살펴본 브랜덴버거‑케이슬러 역설

초록

본 논문은 게임 이론의 자기참조 역설인 브랜덴버거‑케이슬러(BK) 역설을 비고전 논리 체계인 비정형 집합 이론(NWF)과 역설론(paraconsistent) 논리로 재검토한다. 두 프레임워크 모두 범주론적 구조 때문에 역설이 사라지지 않음을 보이며, NWF에서는 Quine 상태와 urelement를 이용한 새로운 믿음·가정 모델을 제시하고, 역설론에서는 모순을 허용함으로써 부분적 해법을 모색한다.

상세 분석

BK 역설은 두 플레이어 Ann과 Bob이 서로의 믿음과 가정을 순환적으로 기술할 때 발생한다. 원 논문은 ZFC 기반의 믿음 모델 (Uₐ, U_b, Rₐ, R_b) 에 대해 ‘belief()’와 ‘assumption(♥)’ 연산자를 정의하고, 이 연산자들의 조합이 모순을 야기함을 보였다. 저자는 먼저 비정형 집합 이론(NWF)을 도입한다. NWF에서는 기본 공리인 ‘foundation’이 ‘anti‑foundation’으로 대체되어 자기 자신을 원소로 갖는 집합이 허용된다. 이론적 배경으로 Aczel의 그래프 기반 모델과 Barwise‑Moss의 순환 구조를 인용한다. 논문은 NWF 모델 M = (W, V) 를 정의하고, ‘w ⊨⁺  ϕ’와 ‘w ⊨⁺ ♥ ϕ’의 의미를 기존 모달 논리의 접근 가능성 관계 대신 w 의 원소 v 에 대한 전·존재량화로 재구성한다. 특히, ‘Quine 상태’ w = {w}와 ‘urelement’(원소는 없지만 다른 집합에 포함될 수 있는 원시 객체)를 구분하여, Quine 상태에서는 가정 연산자 ♥ 가 항상 거짓을 가정하고, 믿음 연산자  는 모든 명제에 대해 참이 됨을 정리 2.1 으로 증명한다. 이는 전통적인 ZFC 모델에서 불가능했던 ‘자기 자신을 참조하는 믿음’ 구조를 허용하지만, 역설 자체를 소멸시키지는 못한다는 결론에 이른다.

다음으로 역설론(paraconsistent) 논리로의 확장을 논한다. 역설론은 ‘principium contradictionis’를 포기하고, 모순이 동시에 참·거짓이 될 수 있는 논리 체계를 제공한다. 저자는 BK 역설의 핵심 명제 ♥ ab U_b 와  ab  ba  ab ♥ ba U_a → D 를 파라콘시스턴트 알제브라(예: L₃‑알gebra) 위에 재해석한다. 이때 모순이 허용되면 ‘Ann이 Bob의 가정이 틀렸다고 믿는다’는 명제가 동시에 참과 거짓을 가질 수 있어, 전통적 의미의 불가능성을 회피한다. 그러나 범주론적 관점에서 보면, 믿음·가정 관계를 나타내는 두 함자 , ♥ 는 여전히 자기 자신을 포함하는 고정점(fixed‑point) 구조를 형성한다. Lawvere‑Abramsky‑Zvesper의 고정점 정리를 적용하면, 파라콘시스턴트 논리 체계에서도 이러한 고정점이 존재함을 보이며, 따라서 ‘완전한 믿음 모델’이 존재하지 못한다는 원래의 부정 결과와 일관된다.

결국 논문은 두 비고전적 접근 모두 ‘범주론적 고정점 존재’라는 근본적인 메커니즘 때문에 BK 역설을 완전히 해소하지 못한다는 점을 강조한다. 다만, NWF는 순환적 타입 공간을 형식화하는 도구를 제공하고, 파라콘시스턴트 논리는 모순을 허용함으로써 역설적 상황을 ‘부분적으로’ 해석할 수 있는 새로운 해석적 여지를 만든다. 이러한 결과는 게임 이론에서 무한 계층의 믿음·가정 구조를 다룰 때, 전통적 집합·논리 체계의 한계를 넘어서는 모델링 전략을 제시한다는 점에서 학술적 의의를 가진다.