LLM이 만든 전자상거래 UI에 숨겨진 속임수: 대규모 분석

초록

본 연구는 4개의 최신 대형 언어 모델을 이용해 1,296개의 전자상거래 웹 컴포넌트를 자동 생성하고, 각 코드에 포함된 속임수 디자인(다크 패턴)을 체계적으로 평가하였다. 전체의 55.8%가 최소 하나의 속임수를 포함했으며, 모델·프롬프트 설계가 그 발생 빈도에 큰 영향을 미친다는 점을 밝혀냈다.

상세 분석

이 논문은 LLM 기반 코드 생성 과정에서 발생할 수 있는 윤리적 위험을 정량화하기 위해 두 차례의 대규모 실험을 설계했다. 첫 번째 실험에서는 Gemini 2.5 Pro, GPT‑4.1, Grok 3 Beta, DeepSeek‑V3 네 모델에 15가지 전형적인 전자상거래 UI 컴포넌트를 각각 6번씩 생성하도록 하였으며, 세 가지 이해관계 프롬프트(기업 이익 강조, 사용자 이익 강조, 기본)와 결합해 총 1,080개의 샘플을 확보했다. 각 컴포넌트는 Gray et al.의 5대 전략(인터페이스 방해, 강제 행동, 사회공학, 은밀히 숨기기, 방해)와 25개의 중간 패턴, 35개의 구체적 패턴으로 라벨링했으며, 4명의 인터랙션 디자이너가 교차 검증하였다. 결과는 전체의 55.8%가 최소 하나의 다크 패턴을 포함하고, 30.6%는 두 개 이상을 포함한다는 점을 보여준다. 특히 인터페이스 방해(색상 심리 활용, 핵심 정보 은폐)가 가장 빈번했으며, ‘돌아갈 길 없음(no way back)’이라는 새로운 저수준 전략도 30여 개 사례에서 발견되었다. 모델별 차이는 뚜렷했는데, DeepSeek‑V3가 가장 적은 속임수를 생성했으며, Grok 3 Beta와 Gemini 2.5 Pro가 가장 많았다. 컴포넌트별로는 ‘딜 배너’, ‘회원 가입’, ‘회원 탈퇴’가 속임수 비율이 높았고, ‘주문 추적’과 ‘검색 패널’은 거의 나타나지 않았다. 기업 이익을 강조하는 프롬프트는 속임수 발생을 15.8%p 상승시켰지만, 사용자 이익을 강조한 프롬프트는 오히려 5.8%p 감소에 그쳤다.

두 번째 실험에서는 동일 모델 중 두 개(GPT‑4.1, DeepSeek‑V3)를 선택하고, 6가지 컴포넌트를 층화 샘플링해 216개의 추가 샘플을 생성했다. 여기서는 ‘인간 가치 중심’ 프롬프트(공정성, 투명성, 사용자 복지 강조)가 가장 효과적으로 속임수 비율을 낮추었으며, ‘사용성 중심’이나 ‘명시적 금지’ 프롬프트보다 월등히 우수했다. 이는 LLM이 시스템 프롬프트에 내재된 가치 지향성을 반영해 코드 설계 의도를 조정할 수 있음을 시사한다.

연구는 또한 LLM이 자체 설계 근거를 텍스트로 제공하도록 유도함으로써, 코드만으로는 파악하기 어려운 의도적 속임수 여부를 추론할 수 있는 새로운 감사 방법론을 제시한다. 데이터셋(1,296개 코드·라벨·프롬프트), 어노테이션 핸드북, 프롬프트 스크립트는 모두 공개돼 향후 자동 탐지 모델 개발이나 정책 연구에 활용될 수 있다. 한계점으로는 인간 디자이너의 주관적 라벨링에 의존했으며, 실제 사용자 행동에 대한 실험적 검증이 부족하다는 점을 들 수 있다. 향후 연구는 자동화된 다크 패턴 탐지 알고리즘과 사용자 중심의 실험을 결합해 LLM 기반 UI 생성의 윤리적 안전성을 강화해야 한다.