대수적 확률과 양자 컴퓨팅: 비가환성의 새로운 시각

초록

**
본 논문은 확률을 ‘관측값들의 대수’와 그 기대값을 나타내는 선형 함수(상태)로 정의하는 대수적 확률 체계를 소개한다. 유한 차원 대수를 중심으로 고전 확률과 양자‑유사 현상(비가환성) 사이의 차이를 명확히 하고, 이를 양자 컴퓨팅·양자 정보 이론에 적용한다.

**

상세 분석

**
논문은 먼저 전통적인 콜모고로프 확률론이 측정공간·σ‑대수·확률측도라는 삼위일체에 의존함을 상기한다. 그러나 양자 현상이나 일반적인 ‘양자‑유사’ 상황에서는 관측 순서가 결과에 영향을 미치므로, 사건들의 전역적 샘플 공간을 정의할 수 없게 된다. 이를 해결하기 위해 저자는 ‘대수적 확률(algebraic probability)’이라는 프레임워크를 제시한다. 핵심은 확률 변수들을 **관측값(observables)**이라 부르는 대수 원소로 보고, 기대값을 **상태(state)**라 불리는 양의 선형 함수로 정의하는 것이다.

1. 대수와 상태

   • 대수 𝔄는 복소수(또는 실수) 위의 유한 차원 ∗‑대수이며, 자가수반 원소가 ‘실값’ 관측을 나타낸다.
   • 상태 φ:𝔄→ℂ는 φ(𝟙)=1, φ(A∗A)≥0 를 만족하는 양의 정규화된 선형 사상이다. 이는 전통적인 확률분포가 확률 측도와 동일한 역할을 함을 보여준다.

2. 가환 vs 비가환

   • 𝔄가 가환이면 Gelfand‑Naimark 정리에 의해 𝔄≅C(X) 형태의 함수대수로 동형이며, 이는 콜모고로프 확률론과 완전 동등함을 의미한다.
   • 비가환인 경우, 𝔄는 행렬대수 Mₙ(ℂ) 혹은 보다 일반적인 C∗‑대수로 나타난다. 여기서 관측값들은 서로 교환되지 않으며, 동시에 측정할 수 없는 ‘불확정성’이 자연스럽게 발생한다.

3. 표현 이론과 힐베르트 공간

   • GNS(Gelfand‑Naimark‑Segal) 구축을 통해 임의의 상태 φ는 힐베르트 공간 ℋ와 표준 표현 π:𝔄→B(ℋ) 및 순환 벡터 |Ω⟩ 로 구현된다. 이는 양자역학의 ‘벡터 상태’와 동일한 구조이며, 대수적 확률이 물리적 양자 이론과 수학적으로 일치함을 증명한다.

4. 유한 차원 대수의 구조

   • 저자는 유한 차원 ∗‑대수를 직접적으로 행렬 대수와 직합 형태로 분해한다. 중심(central) 부분은 고전적인 확률 변수에 해당하고, 비가환 블록은 양자‑유사 서브시스템을 나타낸다. 이러한 분해는 복합 시스템(예: 고전‑양자 혼합) 모델링에 유용하다.

5. 관측, 채널, 포크스페이스

   • 일반화된 관측값(POVM)과 양자 채널(완전 양양성 사상)을 대수적 관점에서 정의한다. 특히 ‘포크스페이스(Fock space)’를 대수적 텐서곱 구조로 해석하여 다중 입자 시스템을 자연스럽게 기술한다.

6. 양자 컴퓨팅에의 적용

   • 양자 프로세서 유닛(QPU)을 대수적 확률 모델로 서술한다. 양자 게이트는 상태를 변환하는 ∗‑동형 사상이며, Grover 알고리즘은 특정 투사 연산을 반복함으로써 목표 상태의 확률을 제곱근 속도로 증폭시키는 과정을 대수적으로 증명한다.
   • 비가환 대수의 구조가 알고리즘 복잡도 향상의 근본 원인임을 강조하고, 고전적인 확률론만으로는 설명할 수 없는 ‘양자 속도 향상’ 현상을 대수적 관점에서 해석한다.

7. 전통적 확률론과의 연결고리

   • 가환 대수의 경우, 상태는 전통적인 확률분포와 일대일 대응한다. 따라서 대수적 확률은 기존 콜모고로프 체계를 포함하는 일반화된 프레임워크이며, 필요에 따라 가환·비가환 부분을 선택적으로 사용한다.

8. 한계와 향후 과제

   • 현재 논문은 유한 차원 대수에 국한되어 무한 차원(예: 연속 스펙트럼)이나 비경계 연산자에 대한 분석은 다루지 않는다. 그러나 저자는 GNS 구축과 C∗‑대수 이론을 통해 자연스럽게 확장 가능함을 시사한다. 또한, 불확정성 원리와 베르니클-코헨-스피커 정리 등을 대수적 증명으로 재구성할 여지가 있다.

핵심 인사이트

• 비가환성이 확률 이론을 고전·양자 두 영역으로 구분하는 근본적인 수학적 특성이다.
• 상태와 관측값을 대수적 객체로 다루면, 확률론과 양자역학 사이의 형식적 차이를 없앨 수 있다.
• 유한 차원 대수만으로도 양자 알고리즘(예: Grover)과 양자 채널을 완전하게 기술할 수 있어, 실용적인 양자 컴퓨팅 연구에 바로 적용 가능하다.
• GNS 구축을 통한 힐베르트 공간 표현은 대수적 확률을 물리적 실험과 연결하는 다리 역할을 한다.

**