LLM 기반 가격 책정에서 나타나는 담합 현상과 전이 임계점

📝 원문 정보

• Title: LLM Collusion
• ArXiv ID: 2601.01279
• 발행일: 2026-01-03
• 저자: Shengyu Cao, Ming Hu

📝 초록 (Abstract)

본 연구는 대형 언어 모델(LLM)을 가격 결정에 활용하는 상황이 경쟁 판매자 간의 담합을 촉진할 수 있음을 조사한다. 두 판매자가 동일한 사전 학습된 LLM에 가격 책정을 위임하고, 이 모델은 (1) 높은 가격을 선호하는 내부 성향 파라미터와 (2) 그 성향이 실제 출력에 반영되는 정도를 나타내는 출력 충실도 파라미터라는 두 변수로 특징지어진다. LLM은 재학습을 통해 성향을 업데이트한다. 흥미롭게도, 고신뢰성·재현성을 위해 LLM을 견고하게 설정하는 관행이 전이 현상을 통해 담합을 유발한다는 것을 발견했다. 구체적으로, 출력 충실도가 일정 임계값 이하이면 초기 조건에 관계없이 경쟁적 가격이 장기적으로 유일한 균형이 된다. 반면 임계값을 초과하면 시스템은 이중안정성을 보이며, 경쟁과 담합 두 가지 가격이 각각 국소적으로 안정된다. 어느 균형이 실현되는지는 모델의 초기 성향에 달려 있다. 완전한 출력 충실도가 확보되면 내부 시작점 어디서든 완전 담합이 발생한다. 또한 배치 크기 b 가 큰 경우, 재학습이 드물어지는 상황에서 담합 경향이 더욱 강화된다. 초기 성향이 담합 영역에 있으면 배치가 클수록 담합이 실현될 확률이 1에 가까워지고, 확률적 변동이 경쟁으로 전이될 가능성을 억제한다. 불확정 영역은 O(1/√b) 속도로 축소되어, 큰 배치일수록 초기 조건이 담합 궤적으로 전환될 가능성이 높아진다.

💡 논문 핵심 해설 (Deep Analysis)

이 논문은 인공지능이 경제 메커니즘에 미치는 영향을 정량적으로 분석한 최초의 시도 중 하나로, 특히 가격 결정이라는 고위험 분야에서 LLM이 어떻게 ‘알고리즘적 담합’(algorithmic collusion)을 야기할 수 있는지를 체계적으로 보여준다. 연구자는 두 판매자가 동일한 사전 학습된 LLM을 가격 책정에 활용한다는 가정을 통해, 인간 의사결정자를 대체하거나 보조하는 AI가 시장 결과에 미치는 구조적 영향을 모델링한다. 핵심은 LLM 내부에 존재하는 ‘성향 파라미터(propensity)’와 ‘출력 충실도 파라미터(fidelity)’라는 두 차원이다. 성향 파라미터는 모델이 고가격을 선호하도록 설계된 내부 편향을 의미하고, 출력 충실도는 이 편향이 실제 추천 가격에 얼마나 정확히 반영되는지를 나타낸다.

논문은 먼저 출력 충실도가 낮은 경우를 살펴본다. 이때 LLM이 제시하는 가격은 성향과 무관하게 노이즈가 크게 섞여 있어, 경쟁적 가격이 자연스럽게 장기 균형을 이룬다. 즉, 초기 성향이 어떠하든 시스템은 ‘경쟁’이라는 단일 안정점으로 수렴한다. 반대로 출력 충실도가 일정 임계값을 초과하면 상황…

📄 논문 본문 발췌 (Translation)

...(본문 내용이 길어 생략되었습니다. 사이트에서 전문을 확인해 주세요.)