반복적 후회 최소화: 현실적인 게임 해법

초록

이 논문은 전통적 해법인 내시 균형이 실험 결과와 괴리되는 여행자 딜레마·센티피드 게임 등을 대상으로, 전략을 ‘후회’를 최소화하는 방향으로 반복 삭제하는 ‘반복적 후회 최소화(Iterated Regret Minimization, IRM)’라는 새로운 해결 개념을 제시한다. IRM은 실험에서 관찰되는 협력적·중간 수준의 선택을 이론적으로 설명하며, 베르트랑 경쟁, 내시 협상 등 다양한 게임에도 적용 가능함을 보인다.

상세 분석

논문은 먼저 기존 게임 이론이 예측하는 내시 균형(Nash equilibrium)의 한계를 짚는다. 여행자 딜레마와 센티피드 게임에서는 내시 균형이 극단적인 비협력적 결과를 도출하지만, 실제 실험에서는 참가자들이 보다 관대하고 장기적인 이득을 추구한다. 이러한 현상을 설명하기 위해 저자는 ‘후회(regret)’라는 개념을 도입한다. 후회는 특정 전략을 선택했을 때, 다른 전략을 선택했더라면 얻을 수 있었던 추가 이익의 차이로 정의된다. 전략 집합에서 후회가 최소가 되는 전략을 남기고, 그렇지 않은 전략을 제거하는 과정을 한 번 수행하면 ‘후회 최소화 전략 집합’이 얻어진다.

하지만 단일 단계의 후회 최소화만으로는 실험과 완전 일치하지 않는다. 따라서 저자는 이 과정을 반복(iterated)하는 방법을 제안한다. 첫 번째 라운드에서 후회가 최소가 아닌 전략을 삭제하고, 남은 전략들에 대해 다시 후회를 계산한다. 이 과정을 더 이상 삭제할 전략이 없을 때까지 진행한다. 이때 수렴된 전략 집합은 ‘반복적 후회 최소화(IRMin)’라 불리며, 각 게임마다 고유한 구조를 가진다.

주요 정리 중 하나는 IRM이 ‘강한 지배(strong dominance)’와는 다르게, 전략 간의 상대적 이득을 비교해 후회를 최소화한다는 점이다. 따라서 어떤 전략이 절대적으로 열등하더라도, 다른 전략에 비해 후회가 크게 작용하면 삭제된다. 이 메커니즘은 특히 보상 구조가 비선형이거나, 플레이어가 미래 이득을 예상하는 장기 게임에서 효과적이다.

구체적인 사례 분석에서는 여행자 딜레마에서 IRM이 내시 균형인 (2,2) 대신 (30,30)에 가까운 중간값을 선택하게 만든다. 이는 실험에서 관찰되는 ‘중간 수준의 협력’과 일치한다. 센티피드 게임에서는 IRM이 초기 단계에서 급격히 뒤로 물러나는 대신, 일정 단계까지는 협력을 유지하는 전략을 남긴다. 베르트랑 경쟁에서는 가격을 완전 경쟁(가격=한계비용)으로 내리는 내시 균형 대신, 어느 정도 높은 가격을 유지하는 전략이 살아남아 실제 시장에서 관찰되는 가격 수준을 설명한다.

수학적 측면에서 저자는 IRM이 ‘정합성(consistency)’과 ‘폐쇄성(closedness)’를 만족한다는 정리를 증명한다. 또한, IRM이 존재하고 유일한 경우와 다중 해가 존재하는 경우를 구분하고, 게임의 구조적 특성(예: 순수 전략 게임, 혼합 전략 게임)에 따라 수렴 속도가 달라짐을 보인다.

마지막으로 논문은 IRM이 행동 경제학과 실험 경제학에서 제시된 ‘제한된 합리성(bounded rationality)’ 모델과 연결될 수 있음을 논의한다. 인간은 완전한 계산 능력보다 ‘후회’를 최소화하는 직관적 판단을 더 자주 사용한다는 심리학적 근거를 인용하며, IRM이 이러한 인지적 제한을 수학적으로 형식화한 첫 번째 시도라고 주장한다.