마이크로서비스 장애 원인 분석을 위한 잔차 연결 기반 대형 언어 모델 프레임워크

초록

본 논문은 마이크로서비스 환경에서 발생하는 복잡한 장애 전파와 고차원 텔레메트리 데이터를 효과적으로 통합·분석하기 위해, 잔차 연결 구조를 도입한 대형 언어 모델(RC‑LLM) 기반 RCA 방법을 제안한다. 계층적 잔차‑유사 융합 구조로 메트릭, 로그, 트레이스를 구조화된 입력으로 변환하고, LLM의 시계열·맥락 추론 능력을 활용해 시간적·서비스 간 인과 관계를 모델링한다. CCF‑AIOps 데이터셋 실험에서 높은 정확도와 빠른 추론 속도를 입증하였다.

상세 분석

RC‑LLM은 기존 RCA 접근법이 직면한 두 가지 핵심 한계를 극복한다. 첫째, 마이크로서비스 시스템은 수백 개의 서비스가 복잡한 호출 체인과 메시지 큐를 통해 상호 연결돼 있어 장애가 단일 서비스에 국한되지 않고 연쇄적으로 전파된다. 기존 규칙 기반·그래프 기반 방법은 사전 정의된 의존성 그래프에 크게 의존하는데, 서비스 배포와 의존성이 동적으로 변하는 환경에서는 그래프의 완전성과 정확성을 유지하기 어렵다. 둘째, 메트릭, 로그, 트레이스와 같은 이질적인 텔레메트리 데이터는 차원 수가 방대하고 노이즈가 많아 단일 데이터 소스에 기반한 머신러닝 모델은 중요한 신호를 놓치기 쉽다.

RC‑LLM은 이러한 문제를 해결하기 위해 ‘잔차‑유사 계층적 융합 구조’를 설계한다. 파이프라인은 크게 다섯 단계로 구성된다. ① 데이터 입력 단계에서는 PyArrow를 이용해 Parquet 형식의 대용량 로그·트레이스·메트릭 데이터를 고속으로 로드한다. ② 전처리 단계에서는 모든 타임스탬프를 UTC 기준으로 정규화하고, 서비스·컴포넌트 단위로 집계·버킷화하여 시간 정렬된 시계열 데이터를 만든다. ③ 데이터 분석 단계에서는 각각의 데이터 유형에 특화된 이상 탐지 및 특징 추출 모듈을 적용한다. 트레이스는 Anytree 라이브러리를 이용해 호출 트리를 계층적으로 구성하고, gRPC 상태 코드를 기반으로 비정상적인 leaf node와 인보케이션 구간을 추출한다. 메트릭은 통계적 임계값·추세 분석 및 PELT(Change‑Point) 알고리즘을 결합해 급격한 변동을 감지한다. 로그는 키워드 검색·시간 슬라이스를 통해 오류 패턴을 정제한다. ④ 잔차 연결 기반 통합 단계에서는 각 데이터 소스에서 추출된 특징 벡터를 잔차 연결 블록에 입력한다. 잔차 연결은 낮은 차원의 원시 특징을 그대로 전달하면서, 고차원 변환 결과를 더해 정보 손실을 최소화하고, 다중 레이어에서 장기 의존성을 효과적으로 포착한다. 이는 ResNet에서 영감을 얻은 설계로, 서로 다른 텔레메트리 스트림 간의 상호 보완적 정보를 유지한다. ⑤ LLM 추론 단계에서는 통합된 특징을 자연어 형태의 프롬프트로 변환하고, 사전 학습된 대형 언어 모델(예: GPT‑4 계열)을 이용해 “원인 설명 → 영향 경로 → 최종 결론” 형태의 체인‑오브‑사고를 수행한다. 프롬프트에는 형식 제약(JSON)과 토큰 제한을 명시해 모델이 정확히 필요한 정보를 출력하도록 유도한다. 최종 출력은 원인 컴포넌트, 실패 설명, 추론 경로를 포함한 구조화된 JSON이다.

실험에서는 공개된 CCF‑AIOps 마이크로서비스 데이터셋(수천 개 서비스, 수백만 건 로그·트레이스·메트릭)에서 RC‑LLM을 기존 Rule‑Based, GNN‑Based, Transformer‑Based 모델과 비교하였다. 평가 지표는 Top‑1 정확도, 평균 응답 시간(MTT‑R), 그리고 토큰 사용량이다. 결과는 RC‑LLM이 Top‑1 정확도 92.3%를 기록하며, 기존 최첨단 GNN 기반 방법(≈84%)보다 8%p 이상 우수했으며, 추론 시간도 평균 1.8초로 실시간 운영에 적합한 수준을 보였다. 또한, 잔차 연결을 제거한 베이스라인 대비 정보 손실이 15% 감소하고, LLM의 ‘환각’(hallucination) 발생률이 현저히 낮아졌음이 확인되었다.

핵심 기여는 다음과 같다. (1) 마이크로서비스 환경에 특화된 잔차 연결 기반 다중 텔레메트리 융합 프레임워크 제안, (2) LLM을 활용한 시계열·인과 추론 파이프라인 설계, (3) 대규모 실험을 통한 정확도·효율성 입증. 이 연구는 AIOps 분야에서 LLM과 전통적인 딥러닝 구조를 결합한 새로운 패러다임을 제시하며, 향후 자동화된 운영·복구 시스템에 직접 적용 가능한 기반을 제공한다.