금융시장의 양자 확률성 검증을 위한 실험 설계

초록

본 논문은 전통적인 콜모고로프 확률 모델이 금융시장의 급격한 변동을 충분히 설명하지 못한다는 점을 지적하고, 양자 확률 혹은 양자‑유사(Q‑like) 모델을 대안으로 제시한다. 저자는 전통적 확률의 핵심인 전법칙(총확률 공식)의 위반을 검증하는 통계적 실험을 설계하여, 시장이 비고전적 확률 구조를 가질 가능성을 실증적으로 탐구한다.

상세 분석

논문은 먼저 현재 금융 수학이 확률 변수와 확률 과정, 즉 콜모고로프의 측도 이론에 기반하고 있음을 상기한다. 이러한 “클래식” 확률은 전법칙(FTP: P(A)=∑_i P(A|B_i)P(B_i))을 전제한다. 저자는 2008년 금융 위기를 “실험”으로 해석해, 시장 데이터가 FTP를 위반한다면 고전 확률 모델이 부적합함을 의미한다고 주장한다. 이를 위해 양자 확률 이론을 도입한다. 양자 확률에서는 사건을 힐베르트 공간의 투영으로 표현하고, 조건부 확률이 비가환 연산에 의해 정의되므로 FTP가 일반적으로 깨진다. 논문은 이러한 비클래식 현상을 검출하기 위한 구체적 통계 검정 절차를 제시한다.

첫 단계는 두 개의 이진 사건 A와 B를 정의하고, 시장에서 각각의 사건 발생 빈도를 측정한다. 두 번째 단계는 B가 발생했을 때와 발생하지 않았을 때 A의 조건부 확률을 추정한다. 마지막으로 전체 확률 P(A)와 ∑_i P(A|B_i)P(B_i) 사이의 차이를 검정 통계량으로 만든다. 차이가 통계적으로 유의하면 FTP 위반, 즉 “양자‑유사” 행동의 증거가 된다.

하지만 설계에는 몇 가지 근본적인 문제점이 있다. 첫째, 금융 데이터는 시간 의존적이며, 비정상성, 레버리지 효과, 그리고 외생 충격 등 복합 요인에 의해 왜곡된다. 이러한 요인은 조건부 확률 추정에 편향을 일으켜 FTP 위반을 인위적으로 만들 수 있다. 둘째, 양자 확률 모델을 적용하려면 사건을 비가환 연산자로 매핑해야 하는데, 논문은 이를 구체적인 수학적 매핑 없이 “직관적”이라고만 제시한다. 실제로 힐베르트 공간의 차원 선택, 상태 벡터 초기화, 측정 연산자 정의 등이 명확히 규정되지 않으면 실험 결과는 해석 불가능하다. 셋째, 검정 통계량의 분포 가정이 명시되지 않았다. 일반적인 χ² 검정이나 부트스트랩 방법을 사용해야 하는데, 논문은 “표준 정규분포”를 가정하고 있어, 데이터의 비정규성에 취약하다. 넷째, 샘플 크기와 검정력(power) 분석이 전혀 제시되지 않아, 실제 시장에서 의미 있는 차이를 탐지하려면 어느 정도의 데이터가 필요한지 알 수 없다.

결과적으로, 논문이 제시한 FTP 위반 검정은 흥미로운 아이디어이지만, 실증적 타당성을 확보하려면 (1) 비정상성 및 자기상관을 보정하는 시계열 모델링, (2) 양자 확률 구조를 명시적으로 수학화, (3) 적절한 부트스트랩 혹은 몬테카를로 시뮬레이션을 통한 검정 통계량의 경험적 분포 추정, (4) 사전 검정력 분석을 통한 샘플 크기 결정이 필수적이다. 이러한 보완이 없으면 “양자‑유사” 현상의 발견을 기존의 통계적 오류나 모델 미스스펙에 기인한 결과로 오해할 위험이 크다.