고차원 공간에서 신뢰도는 탐지와 유사하게 형성된다

초록

본 논문은 인간과 인공 신경망이 보이는 ‘긍정적 증거 편향(PEB)’이 실제로는 고차원 증거 공간에서 최적적인 베이즈식 신뢰도 계산의 결과임을 보여준다. 차원 수가 늘어날수록 신뢰도 기준이 탐지형으로 변하고, 이는 증거 정규화(non‑linear normalization) 효과에 기인한다.

상세 분석

이 연구는 기존 신호 탐지 이론(SDT)을 다차원으로 일반화함으로써, 2‑choice 판별 과제에서도 관찰되는 탐지‑유사 신뢰도 기준이 어떻게 발생하는지를 수학적으로 증명한다. 저자는 먼저 2차원 이진 SDT 모델을 소개하고, 여기서 최적 베이즈 신뢰도는 ‘증거 균형(balance of evidence)’에 의해 결정된다는 점을 재확인한다. 이어서 k‑차원 확장 모델을 도입해, 관찰자가 실제로는 k개의 가능한 자극( s1…sk )을 고려하지만 실험 설계상 두 개(s1, s2)만 선택하도록 강제된 상황을 가정한다. 각 차원 xi는 해당 자극에 대한 독립적인 정규분포 증거를 제공하고, 베이즈 사후확률은 모든 차원의 증거를 softmax 형태로 정규화한다(식 3). 차원 수 k가 커질수록 정규화 항이 크게 작용해, 선택된 대안의 증거가 전체 신뢰도에 미치는 비중이 과도하게 증가한다. 이는 ‘응답 일치 증거(response congruent evidence)’ 히어스틱, 즉 max(xi)만을 이용하는 탐지‑형 전략과 수학적으로 수렴한다. 저자는 시뮬레이션을 통해 k=2,5,10,20일 때 신뢰도 표면이 점차 탐지형으로 변형되는 것을 시각화하고, 선택된 대안 증거에 대한 민감도와 비선택 대안 증거에 대한 민감도의 비율(PEB)을 로그 스케일로 측정한다. 차원이 증가할수록 선택된 증거에 대한 민감도는 크게 상승하고, 비선택 증거에 대한 민감도는 상대적으로 감소한다는 결과는, 인간이 실제로 고차원 특징(예: 위상, 주파수, 대비 등)을 무의식적으로 고려한다는 가설을 뒷받침한다.

또한, 저자는 웹 등(2023)의 MNIST 기반 컨볼루션 신경망 실험을 재현·확장하여, 네트워크가 내부적으로 높은 차원의 표현을 학습할 때 동일한 PEB가 나타나는지를 검증한다. 네트워크의 마지막 레이어에서 얻은 logits를 차원 수에 따라 조절하고, confidence head가 예측 정확도 확률을 추정하도록 훈련한다. 결과는 차원 수가 늘어날수록 confidence 출력이 ‘응답 일치 증거’에 더 크게 의존하고, 이는 인간 데이터와 정량적으로 일치한다.

핵심 통찰은 다음과 같다. (1) 탐지‑형 신뢰도 기준은 인간의 ‘편향’이 아니라, 다수의 대안이 존재하는 고차원 증거 공간에서 베이즈 최적화가 자연스럽게 초래하는 현상이다. (2) 정규화(non‑linear normalization) 과정이 차원 수에 비례해 강화되면서, 선택된 대안의 증거가 과도하게 강조된다. (3) 실험 설계자가 가정하는 저차원 모델과 피험자가 실제 사용하는 고차원 내부 모델 사이의 불일치가 PEB를 설명한다. (4) 인공 신경망에서도 동일한 메커니즘이 작동함을 보여, 인간 메타인지와 인공 시스템 간의 이론적 연계성을 제공한다. 이러한 결과는 메타인지 연구에서 ‘편향’이라고 단정짓던 현상을 재평가하고, 차원성(dimensionality)을 조작한 새로운 행동 실험을 설계할 근거를 제공한다.