동료지원 조직에서 대형 언어 모델 활용 기회와 위험 완화 전략

초록

본 연구는 뉴저지 주의 동료지원 조직(CSPNJ)과 협업해, 16명의 동료 전문가와 10명의 서비스 이용자를 대상으로 LLM 기반 추천 시스템 도입에 대한 인식·우려·완화 방안을 탐색하였다. 워크숍(코믹보딩) 결과, LLM이 관계 권위에 미치는 영향이 핵심 주제로 부각됐으며, 규모와 지역성, 신뢰·관계 역학, 자율성 보존이라는 세 가지 긴장이 도출되었다. 저자들은 ‘경험‑인‑루프’를 설계 원칙으로 제시하고, LLM을 임상 도구가 아닌 관계 협력자로 재구성할 것을 권고한다.

상세 분석

이 논문은 인간‑컴퓨터 상호작용(HCI) 분야에서 커뮤니티 중심 AI 설계 원칙을 행동건강 분야, 특히 동료‑운영 조직(PRO)이라는 특수 맥락에 적용한 최초 사례 중 하나로 평가된다. 연구 설계는 두 단계로 구성된다. 첫 번째 단계에서는 CSPNJ의 운영 흐름과 요구를 정밀히 파악하기 위해 현장 관찰과 인터뷰를 수행했으며, 두 번째 단계에서는 ‘코믹보딩’이라는 시각‑스토리텔링 기반 공동 설계 기법을 활용해 26명의 참여자를 두 그룹(동료 전문가와 서비스 이용자)으로 나누어 LLM의 기능 시연·시나리오 탐색을 진행했다. 이 과정에서 참여자는 LLM이 제공할 수 있는 ‘맞춤형 자원 추천’, ‘대화 요약’, ‘위기 감지’ 등 구체적 기능에 대해 의견을 제시했으며, 동시에 ‘환각(Hallucination)’, ‘불투명성’, ‘문화·지역적 부적합성’ 등 위험 요소를 지적했다.

핵심 발견은 LLM이 ‘관계 권위’를 재구성한다는 점이다. 즉, LLM이 동료 전문가의 조언을 보강하거나 대체할 경우, 기존에 ‘공감·동질감·경험 공유’를 기반으로 형성된 신뢰 관계가 약화될 위험이 있다. 반대로, LLM이 ‘정보 제공’이나 ‘후보 자원 목록 생성’에 한정돼 동료 전문가가 최종 판단을 내리는 형태라면, 권위가 강화되고 효율성이 증대될 수 있다. 이러한 양면성은 세 가지 긴장 구조로 정리된다.

1. 규모와 지역성(Scale ↔ Locality)
   LLM은 방대한 데이터와 일반화된 언어 모델을 기반으로 하지만, 동료 지원 현장은 지역 문화, 개인 사정, 비공식적 네트워크 등에 크게 의존한다. 참여자는 “모델이 제시하는 일반적인 조언은 내 지역의 주거 지원 프로그램과 맞지 않는다”는 구체적 사례를 제시하며, LLM이 지역 맞춤형 데이터베이스와 연동돼야 함을 강조했다.

2. 신뢰와 관계 역학(Trust ↔ Relational Dynamics)
   동료 지원은 ‘공동 회복’이라는 트라우마‑인포드 원칙에 기반한다. LLM이 부정확하거나 과도하게 권위적인 어조를 취하면, 서비스 이용자는 ‘기계가 나를 판단한다’는 느낌을 받을 수 있다. 따라서 투명한 출력 근거 제공, 실시간 피드백 루프, 그리고 ‘인간‑기계 공동 판단’ 프로세스가 필요하다.

3. 자율성 보존(Autonomy ↔ Efficiency Gains)
   자동화가 업무 부담을 경감시키는 동시에, 동료 전문가의 전문성·경험이 사라지는 ‘디스킬링’ 위험이 존재한다. 연구진은 ‘경험‑인‑루프(Lived‑Experience‑in‑the‑Loop)’라는 설계 원칙을 제안한다. 이는 LLM이 생성한 제안을 동료 전문가가 검증·수정·보완하는 단계적 워크플로우를 의미한다.

위 세 긴장을 완화하기 위한 전략으로는 (1) 지역·문화 특화 데이터셋 구축, (2) 출력에 대한 근거와 불확실성 표시, (3) 동료 전문가가 최종 결정을 내리는 ‘인간‑우선’ 인터페이스, (4) 지속적인 사용자 교육 및 피드백 수집, (5) 오류 발생 시 ‘복구 메커니즘’(예: 인간 감독자 알림) 등을 제시한다.

학문적 기여는 다음과 같다. 첫째, 동료‑운영 조직이라는 ‘비임상·비전문가 중심’ 환경에서 LLM 적용 가능성을 실증적으로 탐색했다. 둘째, ‘경험‑인‑루프’를 설계 원칙으로 도입해, AI·인간 협업에서 경험 기반 판단을 중심에 두는 새로운 프레임워크를 제시했다. 셋째, LLM을 ‘관계 협력자(Relational Collaborator)’로 재정의함으로써, 기존의 ‘임상 의사결정 지원 도구’와 차별화된 윤리·디자인 가이드를 제공한다.