커뮤니티 주도 체인오브생각 증류와 데이터 자율성

초록

본 논문은 대형 언어모델의 중간 추론 과정인 체인오브생각(CoT) 데이터를 개인 데이터로 규정하고, 이를 활용해 참여 커뮤니티가 자체 모델을 만들 수 있는 ‘Conscious Data Contribution’ 프레임을 제안한다. 다중 커뮤니티 간 지식 증류 실험을 통해 CoT의 유무, 추론 세분화 수준, 커뮤니티 다양성 및 규모가 증류 성능에 미치는 영향을 정량적으로 분석한다.

상세 분석

이 연구는 두 가지 혁신적인 관점을 결합한다. 첫째, GDPR·퀘벡 법령이 정의하는 ‘개인 데이터’에 체인오브생각(중간 추론 텍스트)까지 포함시켜, 사용자가 AI와의 대화에서 생성한 모든 텍스트를 데이터 이동권의 대상으로 만든다. 이는 기존 CDC 연구가 훈련 데이터만을 고려했던 점을 넘어, 실시간 인터랙션 데이터까지 포괄한다는 점에서 법적·윤리적 의미가 크다. 둘째, 이러한 개인 데이터를 기반으로 다중 커뮤니티가 공동으로 교사 모델(LLaMA 3 70B)의 지식을 학생 모델(T5‑base)로 증류하는 메커니즘을 설계한다. 여기서 핵심 변수는 (1) CoT 포함 여부, (2) 추론 세분화 수준(레벨 1 ~ 레벨 6), (3) 커뮤니티 다양성(질문 형식·도메인 차이), (4) 커뮤니티 규모이다. 실험 결과는 다음과 같이 요약된다. • Utilitarian 목표(전체 평균 정확도 최대화)에서는 CoT가 CSQA·OBQA와 같은 복합 추론이 요구되는 데이터셋에 큰 성능 향상을 제공한다. 반면 AQuA·STQA처럼 형식이 단순하거나 True/False인 경우 CoT 효과는 미미하다. • Altruistic 목표(최소 정확도 최대화)에서는 데이터 포맷 다양성이 핵심 요인으로, CoT 자체보다 다중 선택형·True‑False형 데이터가 모두 포함될 때 최소 성능이 크게 개선된다. • 커뮤니티 다양성 측정(VendiScore)과 정확도 향상 사이에 양의 상관관계가 존재하지만, 이는 STQA가 기준이 될 때는 깨진다. 즉, 동일한 질문 형식을 공유하는 커뮤니티끼리는 상호 보완적 효과가 크지만, 형식이 다른 커뮤니티를 결합하면 다양성 기여는 제한적이다. • 추론 세분화 수준에 대한 실험에서는 레벨 6(상세 CoT)과 레벨 1(간략 CoT) 사이에 뚜렷한 차이가 없으며, 8B·70B 모델이 생성한 요약 CoT도 성능에 큰 영향을 미치지 않는다. 이는 최소한의 추론 정보만 제공되면 학생 모델이 충분히 학습할 수 있음을 시사한다. • Greedy(자기 중심) 관점에서는 일부 커뮤니티가 다른 커뮤니티와 결합했을 때 정확도 손실을 겪지 않으며, 특히 CSQA와 OBQA는 서로에게 긍정적 영향을 미친다. 그러나 AQuA는 STQA와 결합 시 이득이 거의 없으며, 이는 형식 불일치가 전략적 협업을 저해함을 보여준다. 전반적으로 이 논문은 법적 근거를 토대로 개인 데이터 이동권을 기술적 증류 메커니즘과 연결함으로써, 데이터 주권을 실현할 수 있는 구체적 경로를 제시한다. 또한, 커뮤니티 간 상호작용을 설계할 때는 데이터 형식·도메인 일치 여부와 목표(유틸리타리언 vs 알트루이즘)를 명확히 정의해야 함을 강조한다.