AI 시장의 레몬 문제: 정보 비대칭이 채택과 효율에 미치는 영향

초록

본 연구는 AI 제품 시장에서 저품질(레몬) 시스템의 비율과 정보 공개 수준을 조작한 실험을 통해, 정보 비대칭이 사용자들의 AI 채택·신뢰·성과에 미치는 영향을 분석한다. 부분 공개(정확도만 제공)가 완전 공개보다 효율적인 의사결정을 촉진하며, 레몬 비중이 높을 때도 일정 수준의 성능 손실을 억제한다는 결과를 제시한다.

상세 분석

이 논문은 전통적인 ‘레몬 시장’ 이론을 인간‑AI 상호작용에 적용한 최초의 실험적 프레임워크를 제시한다. 실험은 3×2 요인 설계(레몬 밀도: 저·중·고 × 정보 공개: 무공개·부분공개)와 고밀도·완전공개 조건을 추가해 총 7가지 조건을 만든다. AI 시스템의 품질은 ‘정확도’와 ‘데이터 품질(일반화 가능성)’ 두 지표로 정의했으며, 부분공개에서는 정확도만, 완전공개에서는 두 지표를 모두 제공한다. 참가자는 10라운드에 걸쳐 세 가지 과제(예: 리뷰 진위 판단) 중 하나를 수행하면서, 직접 AI를 선택해 위임하거나 인간 직접 판단을 할 수 있다.

주요 발견은 다음과 같다. 첫째, 무공개 상황에서는 레몬 비중이 낮을 때 사용자는 AI 활용을 과소평가해 성능 향기를 놓치고, 레몬 비중이 높을 때는 과도하게 위임해 손실을 확대한다. 학습 효과는 존재하지만 미미해, 사용자가 시장 품질을 정확히 추정하기 어렵다는 점을 시사한다. 둘째, 부분공개(정확도만 제공) 조건에서는 참가자들이 이 제한된 신호를 효과적으로 활용해 레몬을 회피하고, 특히 저·중 밀도에서 전체 성과가 크게 개선된다. 그러나 레몬 비중이 매우 높을 경우, 부분공개만으로는 신호가 충분히 구별되지 않아 효율이 감소한다. 셋째, 완전공개(정확도 + 데이터 품질)에서도 사용자는 여전히 AI 채택을 회피하는 경향을 보이며, 전체 위임률이 낮아 최적 성과에 도달하지 못한다. 이는 정보가 충분히 제공되더라도 위험 회피·신뢰 보정 등 인지적·정서적 요인이 채택을 억제한다는 증거다.

또한, 부분공개는 레몬 비중이 두 배 증가한 상황에서도 성과 손실을 거의 상쇄할 정도로 강력한 효과를 보였으며, 전체 위임률이나 최적 선택 비율을 크게 변화시키지는 않는다. 즉, 정보 공개는 ‘양’보다는 ‘행동 가능성’에 초점을 맞춘 설계가 효율성을 높인다는 실증적 근거를 제공한다. 연구는 EU AI Act와 같은 규제 프레임워크에 대해, 복잡하고 완전한 보고보다 경량화된, 사용자가 빠르게 해석할 수 있는 공개 규칙이 실제 채택을 촉진할 가능성이 높다고 제언한다.

이러한 결과는 AI 공급자가 의도적으로 불리한 정보를 숨기거나 과도하게 복잡하게 제시할 경우, 부분적인 정확도 라벨만으로도 시장 효율성을 크게 개선할 수 있음을 시사한다. 또한, 인간의 제한된 합리성, 위험 회피, 신뢰 보정 메커니즘을 고려한 설계가 필요함을 강조한다.