희소 트위터 데이터에서 약물 남용 탐지를 위한 앙상블 딥러닝 모델

초록

본 연구는 트위터에서 약물 남용 관련 트윗을 효과적으로 분류하기 위해, 단어‑레벨 CNN과 문자‑레벨 CNN을 결합한 앙상블 딥러닝 모델을 제안한다. 데이터 불균형을 시뮬레이션한 다양한 클래스 비율 실험에서, 제안 모델은 전통적인 머신러닝 앙상블보다 높은 정확도와 F1 점수를 기록하였다.

상세 분석

본 논문은 약물 남용 트윗 탐지라는 특수한 텍스트 분류 문제를 다루면서, 데이터 불균형이라는 핵심 난제에 집중한다. 먼저 400여 개의 약물명·속어·남용 행동 키워드를 활용해 트위터 API로 3백만 건 이상의 원시 트윗을 수집하고, 전문가와 AMT 작업자를 통해 4,736개의 라벨링된 데이터셋을 구축하였다. 라벨링 과정에서 Krippendorff’s Alpha가 0.414~0.456 수준으로 다소 낮았지만, 1,000개 샘플에 대한 Kappa 0.91을 통해 품질을 검증하였다.

특징 추출 단계에서는 사전 학습된 워드 임베딩(GoogleNews, GloVe, Godin, Drug‑Chatter) 중 약물 분야에 특화된 Drug‑Chatter(400‑dim)를 선택하고, 문자 수준에서는 128‑dim 랜덤 초기화 임베딩을 학습한다. 추가적인 보조 특징으로는 남용 지시어 빈도, 속어 사전 카운트, 150개의 워드 클러스터 원-핫, WordNet 기반 동의어 확장이 포함된다.

모델 구조는 Word‑CNN(W‑CNN)과 Char‑CNN(C‑CNN) 두 가지를 설계하고, 각각 두 개의 컨볼루션 레이어(또는 하나)와 max‑pooling, dense 레이어(1024 유닛 2개) 후 Softmax 출력으로 구성한다. W‑CNN은 ReLU, C‑CNN은 SELU 활성화를 사용한다. 두 모델의 예측 결과를 메타‑러너(다수결)로 결합해 최종 앙상블을 만든다. 전통 머신러닝 앙상블(예: SVM, Random Forest 등)과 비교하기 위해 6‑fold 교차 검증을 수행했으며, 클래스 비율을 50:50, 40:60, 30:70, 20:80, 10:90으로 변형해 실험하였다.

실험 결과, 특히 20:80 이하의 고불균형 상황에서 딥러닝 앙상블이 전통 모델 대비 평균 5~8% 이상의 F1 향상을 보였다. 이는 단어‑레벨과 문자‑레벨 정보를 동시에 활용함으로써 짧고 비표준적인 트윗 텍스트에서 의미를 포착하는 능력이 강화된 것으로 해석된다. 또한, 과적합 방지를 위해 각 epoch마다 모델을 저장하고 최적 epoch를 선택하는 전략을 적용하였다.

한계점으로는 라벨링 품질이 완벽하지 않으며, 트위터 정책에 따라 데이터 접근성이 제한될 수 있다는 점, 그리고 약물 종류와 지역적 특성에 따라 일반화 가능성이 떨어질 수 있다는 점을 언급한다. 향후 연구에서는 멀티‑모달(이미지·메타데이터) 통합, 도메인 적응 기법, 그리고 실시간 스트리밍 환경에서의 배포 가능성을 탐색할 필요가 있다.