단답식 거부를 넘어서 정신 건강 지원에서의 LLM 거부 행동을 동적 경험으로 재해석하기

초록

본 연구는 정신 건강 지원을 위해 LLM을 사용하는 과정에서 발생하는 모델의 ‘거부’ 행동이 사용자와 정신 건강 전문가에게 어떻게 경험되고 해석되는지 탐구합니다. 설문(N=53)과 심층 인터뷰(N=16)를 통해 거부가 단순한 일회성 시스템 출력이 아닌, 기대 형성부터 거래 후 결과에 이르는 다단계의 동적 경험 과정임을 밝혔습니다. 연구진은 단순 정책 준수 정확도를 넘어선 평가 프레임워크와 향후 거부 메커니즘 설계를 위한 권장 사항을 제시합니다.

상세 분석

이 연구는 LLM 안전 장치의 핵심인 ‘거부’ 행동을 기존의 기술 최적화 문제에서 인간 중심의 경험적 과정으로 패러다임을 전환한 점에서 중요한 기여를 합니다. 기존 연구가 주로 위험 입력 감지와 적절한 불응답 출력이라는 단일 차원의 정확도 벤치마크에 집중했다면, 본 연구는 정신 건강이라는 민감한 컨텍스트에서 거부가 사용자에게 미치는 실제 영향과 해석에 주목합니다.

핵심 기술적 통찰은 ‘다단계 경험 프레임워크’입니다. 연구진은 거부를 (1) 사전 거부 기대 형상, (2) 거부 유발 및 접촉, (3) 거부 메시지 프레이밍, (4) 자원 참조 제공, (5) 거부 후 결과라는 5단계로 분해합니다. 이는 거부가 LLM의 단일 응답에 갇힌 것이 아니라, 상호작용 전후의 사용자 심리 상태와 맥락에 깊이 뿌리내린 현상임을 보여줍니다. 예를 들어, 사용자가 이미 고립감이나 무력감을 느끼는 상태에서(1단계) 발생한 성의 없거나 무미건조한 거부 메시지(3단계)는 정서적 유대감을 단절시키는 ‘서비스 거부’로 경험되어 추가적인 심리적 위험(5단계)을 초래할 수 있습니다.

또 다른 중요한 분석은 ‘경험적 전문성’과 ‘영역 전문성’의 결합입니다. 정신 건강 지원 경험이 있는 사용자의 생생한 체험과 정신 건강 전문가의 임상적 판단을 함께 수용함으로써, 거부 메커니즘 설계가 단순한 AI 안전 규정 준수를 넘어 실제 현장의 ‘불해악’ 원칙과 조화를 이루도록 유도합니다. 연구에서 도출된 설계 권장사항, 예를 들어 거부 전 투명한 공지, 협력적·계층적 의도 인식, 지원 보존형 거부 표현, 맞춤형 자원 안내 등은 모두 이 같은 통합적 시각에서 비롯되었습니다. 이는 LLM 안전성 연구가 기술적 정확도에서 사회기술적 책임으로 나아가야 함을 시사합니다.