베르누이·몽모르·왈드그레이브가 논한 ‘레 헤르’와 풀 문제의 역사적 전개

본 논문은 피에르 레몽 드 몽모르의 《위험 게임에 관한 분석 에세이》 제2판 부록에 실린 서신들을 중심으로, 1710년부터 1715년 사이에 이루어진 니콜라스 베르누이, 몽모르, 그리고 영국 출신의 수학자 왈드그레이브(헨리 왈드그레이브 1대 남작)의 서신 교환을 상세히 분석한다. 서신은 모두 프랑스어로 작성되었으며, 저자는 주요 구절을 번역하고, 그 내용이 담고 있는 확률적·전략적 의미를 현대 수학적 관점에서 재해석한다. 첫 번째 주요 주제는 카드 게임 ‘레 헤르’이다. 이 게임은 52장의 표준 카드 덱을 사용하며, 두 명의 플레이어가 차례대로 카드를 받는다. 첫 번째 플레이어(피에르)는 카드를 받으면 두 번째 플레이어(폴)가 자신의 카드를 교환할지 여부를 선택하고, 이후 피에르는 자신의 카드를 유지하거나 새로운 카드를 뽑는다. 승자는 높은 카드를 가진 사람이며, 동점 시 딜러가 승리한다. 몽모르는 이 게임을 네 명까지 확장해 분석했으며, 특히 중간값 카드(예: 7, 8)의 처리 방식을 두고 논쟁이 발생한다. 베르누이는 초기 서신에서 “각 플레이어는 자신에게 가장 유리한 행동을 선택한다”는 가정 하에, 폴은 7보다 높은 카드를, 피에르는 8보다 높은 카드를 유지하도록 제시하고, 그에 따른 승률을 2697:2828로 계산한다. 그러나 이 접근은 중간값 카드에 대한 확률적 혼합 전략을 무시한다는 비판을 받는다. 왈드그레이브는 이러한 비판에 대해, 무작위화 장치(흑·백 토큰이 들어 있는 주머니)를 이용해 일정 확률로 교환 여부를 결정하는 혼합 전략을 제안한다. 이는 상대가 자신의 선택을 예측하기 어렵게 만들며, 기대값을 균등하게 맞추는 효과가 있다. 이러한 아이디어는 현대 게임 이론에서 ‘혼합 전략 균형’ 혹은 ‘내시 균형’의 전신으로 평가된다. 두 번째 주요 주제는 ‘풀 문제’(Waldegrave’s problem)이다. 세 명 이상의 플레이어가 두 명만 실제 게임을 하는 구조에서, 패자들이 공동으로 포트를 형성하고 승자가 모든 금액을 차지한다는 설정이다. 몽모르는 이 문제를 세 명 경우에만 풀었으며, 왈드그레이브는 이를 일반화하고, 각 라운드에서 카드 배분과 교환 전략을 복합적으로 고려한 확률 모델을 제시한다. 이는 단순 조합론을 넘어 조건부 확률과 기대값을 동시에 다루는 복합적 접근법이다. 또한 서신에는 ‘아베 드 오르베’(피에르 쿠비에르·드·몽수리)라는 인물이 등장한다. 그는 왈드그레이브와 협력해 책의 인쇄와 교정을 담당했으며, 베르누이의 수학적 논증에 대한 비평을 제공한다. 저자는 아카이브 자료를 통해 이 인물의 정확한 신원을 규명하고, 그의 역할이 단순 출판 담당자를 넘어 당시 확률 논쟁에 실질적인 영향을 미쳤음을 밝힌다. 역사적 맥락에서, 18세기 초 확률론은 ‘수학적 게임 이론’으로 전이되는 과도기였다. 베르누이는 전통적인 확률 계산에 머물렀지만, 왈드그레이브와 몽모르는 전략적 선택과 무작위화의 필요성을 인식하고, 이를 서신을 통해 활발히 논의했다. 이러한 논쟁은 라플라스와 폰 노이만이 20세기에 정식으로 게임 이론을 체계화하는 데 중요한 사전 지식으로 작용했다. 마지막으로, 베르누이가 서신에서 사용한 “If we suppose that each player observes the conduct …”라는 조건부 가정은 현대 확률론에서 사건의 선행조건을 명시하는 방식과 일치한다. 이는 당시 수학자들이 이미 사건의 종속성을 인식하고 있었음을 보여준다. 전체적으로 이 연구는 18세기 초 확률·전략 연구가 현재의 게임 이론과 어떻게 연결되는지를 풍부한 사료와 수학적 해석을 통해 설득력 있게 제시한다.