LLM의 암묵적 협조와 초점점

초록

본 논문은 셸링의 초점점 이론을 바탕으로 대규모 언어 모델(LLM)이 인간과 유사하게 암묵적 협조 게임에서 어떻게 조율되는지를 체계적으로 분석한다. 20여 개의 오픈소스 LLM을 Amsterdam·Nottingham 인간 실험 데이터와 비교 평가하고, 학습 없이 적용 가능한 프롬프트 전략을 제시한다. 실험 결과 LLM은 다수의 경우 인간을 능가하는 조율 능력을 보였지만, 숫자 선택이나 미묘한 문화적 전형과 같은 상식적 초점점에서는 한계를 드러냈다.

상세 분석

이 논문은 먼저 셸링(1980)의 초점점 개념을 수학적으로 정형화한다. 게임 G = (N, Σ, u)에서 모든 내시 균형 E 에 대해 ‘현저도 함수’ S:E→ℝ₊를 정의하고, 이를 소프트맥스 형태의 확률분포 P(e)=exp(β·S(e))/∑ₑ′exp(β·S(e′))에 매핑한다. β=0이면 균등 무작위 선택, β→∞이면 가장 현저한 균형을 독점적으로 선택한다는 해석이 가능하다. 논문은 두 가지 경우에 고유 초점점이 존재함을 증명한다. (1) 모든 플레이어가 동일한 현저도 함수를 공유하고, 미세한 잡음 η 을 추가해 동점 확률을 0으로 만드는 경우; (2) 플레이어마다 현저도 함수가 다르더라도 대칭군 Γ 가 정의하는 궤도(orbit) 내에서 ‘공통 순서’가 존재하면, 가장 높은 평균 현저도를 가진 궤도가 고유 초점점이 된다. 이러한 이론적 토대 위에 저자는 협조 지표인 Coordination Index(CI)와 전략 수를 정규화한 Normalized CI(NCI)를 도입한다. CI는 두 임의의 플레이어가 동일한 전략을 선택할 확률을, NCI는 전략 수 m 에 대한 정규화 비율을 제공한다.

실험 설계는 Bardsley et al. (2010)의 Amsterdam·Nottingham 데이터셋을 재현한다. 각 질문은 ‘pick’, ‘guess’, ‘coordinate’ 세 조건으로 제시되며, 인간 50명 정도의 응답을 기준으로 CI와 NCI가 보고된다. 저자는 Llama‑3(70B·1.1·1.3), Qwen‑2·2.5(72B), GPT‑oss(20B·120B) 등 20여 개 오픈소스 모델을 동일한 프롬프트로 30회씩, 세 가지 무작위 순서로 총 90회 실행한다. 결과는 그림 4에 제시된 바와 같이, 대부분의 LLM이 인간과 비슷하거나 높은 NCI를 기록한다. 특히 ‘coordinate’ 조건에서 LLM은 인간보다 일관된 선택을 보여, 모델이 내재된 문화적·언어적 공통 인식을 활용해 초점점을 자동으로 탐색함을 시사한다.

하지만 모델은 숫자 선택 게임(예: 1~100 중 하나 고르기)에서 ‘1·50·100’과 같은 전형적 초점점을 거의 놓치며, 문화적 전형이 얽힌 질문(예: 특정 지역에서 흔히 떠올리는 상징물)에서도 편향된 답변을 보인다. 이를 보완하기 위해 저자는 세 가지 학습‑프리 전략을 제안한다. 첫째, ‘Saliency Prompt’를 삽입해 “가장 눈에 띄는 답을 선택하라”는 메타 지시를 추가한다. 둘째, ‘Answer Ordering Randomization’으로 선택지 순서를 매번 섞어 모델이 위치 편향에 의존하지 않게 한다. 셋째, ‘Temperature Zero + Self‑Consistency’를 적용해 다중 샘플 중 가장 빈도가 높은 답을 최종 선택으로 채택한다. 이 전략들을 적용하면 인간과의 NCI 차이가 평균 5% 이하로 감소한다.

한계점으로는 (1) 현저도 함수 S 를 직접 측정하거나 모델 내부에서 추출하지 못해, 초점점 예측이 외부 프롬프트에 크게 의존한다는 점, (2) 문화·언어 다양성이 높은 상황에서 모델이 특정 문화에 편향된 초점점을 선호한다는 점, (3) 현재 실험이 2인 게임에 국한돼 다중 에이전트 시나리오에 대한 일반화가 미흡하다는 점을 들었다. 향후 연구는 (i) LLM 내부 표현을 활용한 현저도 추정 방법, (ii) 다중 플레이어·다중 라운드 협조 게임에 대한 확장, (iii) 초점점 기반 메타‑학습 프레임워크 설계 등을 제안한다.

전반적으로 이 논문은 LLM이 인간과 유사한 ‘암묵적 협조’ 능력을 보유하고 있음을 실증적으로 보여주며, 초점점 이론을 AI 에이전트 설계에 적용할 수 있는 첫 번째 대규모 사례를 제공한다.