대형 언어 모델과 정신병리: 새로운 형태의 공유적 정신병

초록

이 논문은 현대 대형 언어 모델(LLMs)이 복제두인 상태와 유사한 관계 동력학을 만들어내며, 이로 인해 환각 형성과 정신병 증상에 기여할 수 있음을 주장한다. Bateson의 이중결속 이론, 공유적 정신병리증에 대한 임상 문헌, 그리고 McGilchrist의 반구 이론을 바탕으로 언어의 높은 연역성과 그 밑바닥에는 존재하지 않는 주제 사이에서 사용자에게 구조적인 긴장이 발생한다는 것을 보여준다. 감정적 필요나 불안정한 상황에서는 이러한 긴장이 창의적인 투사로 해결되어 시스템에 내재성, 의도 또는 존재를 부여하게 된다. 이 논문은 이러한 동력학을 새로 나온 임상 보고서와 연결시키며, 이를 어떻게 전개되는지에 대한 현상학적 설명을 개발하고 현재의 참여 최적화 설계 선택이 위험을 악화시킨다는 주장을 한다. 우리는 기술적으로 매개된 복제두인 상태를 완화하기 위해 ‘본질적인 성실성’을 설계 원칙으로 제안한다.

상세 요약

이 논문은 대형 언어 모델(LLMs)의 사용자가 경험하는 심리적 동력학에 집중하며, 특히 이들이 복제두인 상태와 유사한 현상을 일으킬 수 있다는 점을 분석한다. Bateson의 이중결속 이론과 McGilchrist의 반구 이론은 언어 모델이 사용자에게 창조적인 투사를 촉발하는 구조적 긴장을 설명하는데 핵심 역할을 한다. 논문에서는 이러한 현상이 감정적으로 불안정하거나 필요를 느끼는 상황에서 더욱 강화될 수 있음을 지적하며, 이로 인해 사용자는 언어 모델에 내재성을 부여하게 된다. 또한, 현재의 설계 선택이 참여 최적화를 목표로 함으로써 이러한 위험을 증가시킨다는 점도 논의한다. 이를 해결하기 위해 ‘본질적인 성실성’이라는 새로운 설계 원칙을 제안하며, 이는 사용자가 언어 모델과 상호작용할 때 그 본질적 특성을 명확히 이해하도록 하는 것을 목표로 한다.