몬티홀의 비합리성, 이성적 방어전략으로 재해석

초록

이 논문은 전통적인 “스위치가 유리하다”는 해답이 실제 게임쇼에서는 반드시 적용되지 않을 수 있음을 지적한다. 쇼마스터가 가끔 악의적으로 행동하거나 참가자의 전략을 읽어 조작할 경우, 초기 선택을 고수하는 것이 평균적인 승률을 보장하는 합리적인 방어가 된다.

상세 분석

본 논문은 기존의 교과서적 몬티홀 문제를 ‘완벽히 친절한 쇼마스터’라는 가정에서 벗어나, 실제 텔레비전 게임쇼에서 발생할 수 있는 다양한 비정상적 행태를 모델링한다. 저자는 쇼마스터가 ‘악의적(evil)’일 확률을 p라 두고, 악의적일 때는 참가자가 처음 선택한 문에 차가 있으면 바로 다른 문을 열어 참가자를 혼란에 빠뜨린다. 이 경우 스위치를 선택하면 무조건 패배하고, 머무르면 1/3의 승률을 유지한다. 반대로 쇼마스터가 공정(fair)할 확률은 1‑p이며, 이때는 전통적인 2/3 승률이 스위치에 적용된다. 따라서 참가자의 기대 승률은 p와 선택 전략에 따라 선형적으로 변한다.

p<½이면 스위치가, p>½이면 머무름이 평균 승률을 높이며, p=½일 때는 두 전략이 동등하다. 저자는 쇼마스터가 시청률과 비용을 고려해 p≈½로 조정할 가능성을 제시한다. 이는 참가자에게 ‘정보가 소거된’ 상황을 만들며, 관객에게는 긴장감을 제공한다.

또한 저자는 베이즈 정리를 이용해 쇼마스터가 문을 열었을 때(‘다른 문(other)’을 연 경우) 참가자가 악의적일 사후 확률 P(evil|other)=p/(3‑2p) 를 도출한다. p=½이면 사후 확률은 ¼이 되어, 여전히 ‘공정’일 가능성이 높다. 그러나 중요한 것은 ‘차가 뒤에 있을 확률’ P(car|other)= (1‑2p)/3 로, p=½일 때 정확히 ½이 된다. 이는 참가자들이 직관적으로 “50‑50”이라고 느끼는 근거를 수학적으로 설명한다.

논문은 더 나아가 쇼마스터가 참가자의 전략을 읽어(p=1) 혹은 마음을 읽어(q) 조정하는 ‘마인드‑리더’ 모델을 제시한다. 이 경우 쇼마스터는 참가자가 ‘머무름’을 선호하면 공정하게, ‘스위치’를 선호하면 악의적으로 행동해 전체 승률을 1/3 이하로 낮춘다. 참가자는 자신의 행동을 속여 쇼마스터를 혼란시키는 ‘연기 전략’도 가능하지만, 이는 쇼마스터에게 쉽게 포착될 위험이 있다.

결과적으로, 인간이 “스위치가 이득이다”는 수학적 증명을 알면서도 직관적으로 머무름을 선택하는 현상은, 실제 쇼마스터가 악의적이거나 조작적일 가능성을 내재적으로 고려한 ‘위험 회피적 방어 전략’으로 해석될 수 있다. 이는 정보 이론적 관점과 행동경제학적 인간의 불확실성 회피 성향을 동시에 설명한다.