인과관계 기반 대형언어모델 표형 이상 탐지

초록

본 논문은 표형 데이터의 열 간 인과관계를 추출하고, 이를 기반으로 열 순서를 최적화한 뒤 열별 가중치를 조정하여 대형언어모델(LLM)로 이상 탐지 성능을 크게 향상시키는 CausalTAD 방법을 제안한다. 30여 개 데이터셋 실험에서 기존 최첨단 방법들을 지속적으로 능가한다.

상세 분석

CausalTAD는 기존 LLM 기반 표형 이상 탐지에서 무작위 열 순서가 초래하는 조건부 확률 왜곡 문제를 인과관계 활용으로 해결한다. 먼저, 저자는 COAT 프레임워크를 확장해 표형 데이터(수치·범주·텍스트)를 자연어 문장으로 직렬화하고, LLM을 이용해 고수준 요인(factor)을 자동 추출한다. 각 요인은 하나 이상의 열에 매핑되며, 요인 간 인과 그래프는 PC, LiNGAM, FCI 등 기존 인과 발견 알고리즘으로 학습된다. 요인 수준의 인과 관계를 열 수준으로 투사할 때, 열 i가 열 j에 미치는 인과 강도 w(i→j)를 해당 요인 쌍의 가중치 절댓값 합으로 정의한다. 이렇게 얻은 선호 행렬은 사이클을 포함할 수 있어 전통적인 위상 정렬이 불가능하므로, 총 만족 가중치를 최대화하는 선형 순서 문제(LOP)로 전환한다. 열 수가 수십 수준에 불과하다는 점을 활용해 완전 탐색 혹은 휴리스틱 탐색으로 최적 순서를 도출한다.

다음으로, 열별 가중치 재조정 단계에서는 각 열이 요인 그래프에서 차지하는 중심성(예: 입출력 정도, 인과 강도 합계)을 기반으로 가중치를 부여한다. 이는 LLM이 학습 과정에서 인과적으로 중요한 열에 더 큰 주의를 기울이게 하여, 이상 샘플에 대한 조건부 확률이 보다 정확히 반영되도록 만든다.

실험에서는 30여 개 공개 표형 데이터셋(신용카드 사기, 의료 기록 등)을 사용해, 무작위 순서 기반 AnoLLM, 기존 비인과적 방법, 전통적 통계·딥러닝 기반 이상 탐지기와 비교하였다. 평균 AUROC, AUPRC 모두 3~7%p 상승했으며, 특히 인과 관계가 뚜렷한 도메인(급여‑직무‑학력)에서 큰 성능 향상을 보였다. 또한, 다양한 인과 발견 알고리즘을 적용했을 때 결과가 크게 변하지 않아 방법의 견고함을 확인했다.

CausalTAD는 인과관계 추출, 선형 순서 최적화, 열 가중치 재조정이라는 세 단계로 구성돼, 기존 LLM 기반 접근법의 핵심 약점을 체계적으로 보완한다. 다만, 요인 추출 과정이 LLM 프롬프트 설계와 사전 학습 모델에 의존하므로, 도메인 특화 프롬프트가 필요하고, 열 수가 매우 많아지는 경우 LOP 최적화 비용이 급증할 수 있다는 제한점이 있다. 향후 연구에서는 요인 자동화 수준을 높이고, 대규모 열에 대한 근사 최적화 알고리즘을 도입해 확장성을 개선할 여지가 있다.