양자 의사결정 이론의 수학적 구조

초록

본 논문은 인간의 의사결정 과정을 힐베르트 공간 위의 벡터와 연산자로 모델링한 ‘양자 의사결정 이론(QDT)’을 제시한다. 복합적인 의도와 선택지를 초월하는 중첩·얽힘 현상을 수학적으로 표현함으로써, 확실성 원칙 위반(불연속 효과)·결합 오류 등 전통적 이론으로 설명되지 않는 여러 인지 편향을 자연스럽게 설명한다.

상세 분석

양자 의사결정 이론(QDT)은 인간의 의사결정을 고전적 확률론이 아닌 복소수 힐베르트 공간 위의 상태벡터와 연산자로 기술한다. 여기서 각 ‘의도(intention)’는 기저벡터로, 복합적인 ‘전망(prospect)’은 이들 기저의 텐서곱으로 구성된 복합벡터가 된다. 중요한 점은 이러한 전시가 선형 결합을 통해 중첩(superposition)될 수 있다는 점이다. 중첩된 상태는 측정(결정) 과정에서 붕괴(collapse)되며, 이때 발생하는 확률은 벡터의 내적의 제곱으로 정의된다.

특히 QDT는 두 가지 핵심 수학적 요소를 도입한다. 첫째, ‘의도 간 얽힘(entanglement)’이다. 이는 두 개 이상의 의도가 독립적으로 존재하지 않고, 하나의 복합 상태로 결합되어 서로의 선택에 영향을 미치는 현상으로, 전통적 독립성 가정이 깨지는 경우를 설명한다. 둘째, ‘비가환성(non‑commutativity)’이다. 연속적인 의사결정 순서가 바뀌면 결과 확률이 달라지는 현상으로, 이는 인간이 상황에 따라 판단 기준을 재구성하는 심리적 메커니즘과 일맥상통한다.

논문은 이러한 구조를 이용해 ‘확실성 원칙(sure‑thing principle)’ 위반, 즉 ‘불연속 효과(disjunction effect)’를 의도 간 간섭(interference) 항으로 설명한다. 두 의도가 동시에 활성화될 때, 긍정적·부정적 경로가 위상 차이를 갖고 합성되면서 전통적 확률의 합보다 크게(또는 작게) 나타나는 것이 관측된다. 마찬가지로 ‘결합 오류(conjunction fallacy)’는 특정 전시가 다른 전시보다 높은 확률로 평가되는 현상을, 간섭 항이 양의 값을 가질 때 발생하는 과잉 확률로 해석한다.

수학적으로는 전체 확률 법칙을 보존하면서도, 각 전시의 확률을
(p(\pi)=|\langle \psi|\pi\rangle|^{2}+q(\pi))
와 같이 표현한다. 여기서 (|\psi\rangle)는 의사결정자의 초기 정신 상태, (|\pi\rangle)는 특정 전시, (q(\pi))는 간섭 항이다. (q(\pi))는 상황에 따라 양·음이 될 수 있으며, 이는 인간이 불확실성 하에서 위험 회피 혹은 위험 선호를 보이는 심리적 요인을 정량화한다.

또한 논문은 ‘전형적 패러다임(archetype)’을 몇 가지로 귀축한다. (1) 순수 중첩형, (2) 얽힌 복합형, (3) 비가환 순서형 등이다. 이들 각각은 실험적 데이터와 일치하는 파라미터 설정을 통해 기존의 다양한 인지 편향을 하나의 통일된 수학적 틀 안에 포괄한다.

결론적으로 QDT는 인간 의사결정의 복합성, 비선형성, 그리고 맥락 의존성을 자연스럽게 포착하는 수학적 프레임워크를 제공한다. 이는 기존의 기대 효용 이론이나 베이즈적 접근이 설명하기 어려운 현상을 최소한의 가정으로 해명하며, 향후 인공지능·뇌과학·경제학 등 다학제 연구에 적용 가능성을 시사한다.