시간 시계열 진단 추론을 위한 지식 주입 하이브리드 프레임워크

본 논문은 시계열 데이터 기반 진단 추론이 요구되는 산업 현장에서, 기존 LLM이 갖는 두 가지 상반된 한계를 동시에 극복하고자 한다. 일반 추론 대형 언어 모델(GRLM)은 방대한 사전 학습을 통해 복잡한 논리 전개와 다단계 사고를 수행할 수 있지만, 시계열 데이터의 물리적·도메인 특성을 이해하는 데 필요한 전문 지식이 부족하다. 반면, 도메인에 특화된 시계열 언어 모델(TSLM)은 센서 데이터의 패턴과 고장 메커니즘을 학습했지만, 복합적인 질문에 대한 일반화 능력이 제한적이다. 이를 해결하기 위해 저자들은 ‘지식 주입(Knowledge Injection)’이라는 하이브리드 프레임워크를 제안한다. 핵심 아이디어는 TSLM이 생성한 도메인 지식 스니펫(K_T)을 GRLM의 사고 흐름에 삽입함으로써, GRLM이 일반적인 논리 연산을 수행하면서도 도메인 지식을 지속적으로 활용하도록 하는 것이다. 구체적으로, 입력으로 주어지는 다변량 시계열 X와 질문 q를 토큰화한 뒤, 토큰 이후에 GRLM이 사고 트레이스를 r_G 생성한다. 여기서 TSLM은 ‘help’ 프롬프트를 통해 분석용 지식 K_T를 생성하고, 이를 ‘reflect’ 트리거와 함께 초기 사고 트레이스에 주입한다(early injection). 이후 GRLM은 주입된 지식을 바탕으로 추론을 이어가며 최종 답변 y를 출력한다. 주입 과정에서 발생하는 ‘task shift’ 문제—TSLM이 원래 답변 생성에 최적화돼 있어 분석용 지식 제공 시 허위 정보를 생성할 위험—를 해결하기 위해 RLVR(Reinforcement Learning with Verifiable Rewards) 방식을 도입한다. RLVR은 형식 보상(r_fmt)과 정답 보상(r_hard)을 결합한 그룹‑레벨 상대 보상(L_G_RPO)을 사용해, 모델이 … 구조를 준수하고 정답을 맞추도록 학습한다. 이 과정에서 인간 라벨링이 전혀 필요 없으며, 모델은 스스로 ‘analysis‑first’ 사고 흐름을 학습한다. 기술 구현 측면에서는 시계열 X를 이미지 플롯, JSON 구조, 혹은 전용 토크나이저를 통해 텍스트 토큰 시퀀스로 변환한다. TSLM과 GRLM은 각각 별도의 파라미터를 갖는 독립 모델이며, 주입 함수 Inject와 질의 변형 함수 Query는 규칙 기반으로 설계되어 API 호출 시 별도 파라미터 튜닝 없이 적용 가능하다. 또한, 중간·후기 주입, 다중 주입 등 다양한 변형도 가능하지만 실험에서는 early injection이 가장 일관된 성능 향상을 보였다. 벤치마크로는 새롭게 구축한 SenTSR‑Bench을 소개한다. 이 데이터셋은 실제 산업 현장에서 수집된 다변량 센서(진동, 온도 등)와 인간이 직접 작성한 고장 원인·대응 설명을 포함한다. 기존 공개 데이터셋은 대부분 합성 데이터이거나 LLM이 자동 주석한 형태로, 다단계 질문을 제공하지 못한다. SenTSR‑Bench은 ‘무엇이 일어났는가’, ‘왜 일어났는가’, ‘어떻게 해결할 것인가’ 등 3단계 질문을 포함해 진단 추론의 전 과정을 평가한다. 실험 결과, 제안 방법은 SenTSR‑Bench 및 기타 공개 데이터셋에서 TSLM 단독 대비 9.1‑26.1% 향상, GRLM 단독 대비 7.9‑22.4% 향상을 달성했다. 특히 RL‑enhanced injection이 SFT‑only injection보다 1.66‑2.92배 더 큰 성능 이득을 보였으며, 다양한 모델(폐쇄형·오픈소스)에서도 일관된 개선 효과가 관찰되었다. 논문의 주요 기여는 다음과 같다. ① 도메인 지식과 일반 추론을 결합한 새로운 지식 주입 프레임워크 제시. ② 인간 라벨링 없이도 분석‑우선 사고 트레이스를 학습시키는 RLVR 기반 학습 방법 도입. ③ 실제 산업 현장 데이터를 기반으로 한 고품질 다단계 진단 벤치마크 SenTSR‑Bench 공개. 한계점으로는 시계열 토크나이징 방식에 따라 성능 변동이 있을 수 있고, 주입 시점 선택이 질문 유형에 따라 최적화될 필요가 있다는 점을 들 수 있다. 향후 연구에서는 자동 주입 타이밍 탐색, 멀티‑모달(이미지·텍스트·시계열) 통합, 의료·금융 등 다른 도메인으로의 확장 등을 제안한다.