하이퍼그래프 컨볼루션 트랜스포머 네트워크를 이용한 이상 복원형 시계열 QoS 예측
초록
본 논문은 서비스 QoS 예측에서 발생하는 데이터 희소성·콜드 스타트·이상치·그레이쉽 문제를 동시에 해결하기 위해, 하이퍼그래프 기반 고차원 협업 필터링과 멀티헤드 어텐션·1D 컨볼루션을 결합한 하이퍼그래프 컨볼루션 트랜스포머 네트워크(HCTN)를 제안한다. 비음수 행렬 분해, 하이퍼그래프 컨볼루션, 그레이쉽 탐지·완화, 시계열 그래뉼러리티 추출, 강인 손실 함수를 순차적으로 적용해 실시간으로 신뢰성 있는 QoS 값을 예측하며, WSDREAM‑2 데이터셋에서 응답시간·처리량 모두 기존 최첨단 모델을 크게 능가한다.
상세 분석
본 연구는 QoS 예측 문제를 “데이터 결핍‑신뢰성‑표현”이라는 세 축으로 재구성하고, 각각에 대한 구체적인 해결책을 설계했다. 첫 번째 축인 데이터 결핍은 비음수 행렬 분해(NMD)를 통해 사용자·서비스의 잠재 요인을 추출함으로써 콜드 스타트 상황에서도 초기 임베딩을 제공한다. NMD는 희소 행렬을 두 개의 저차원 양수 행렬로 분해해, 기존 MF 기반 방법보다 해석 가능하고, 이후 하이퍼그래프 단계에서 직접 활용할 수 있는 dense feature tensor를 만든다.
두 번째 축인 데이터 신뢰성은 두 가지 레벨에서 다루어진다. (1) 이상치에 대해서는 로그형 페널티를 포함한 강인 손실 함수를 도입해, 큰 오차가 발생하더라도 파라미터 업데이트가 급격히 왜곡되지 않도록 설계하였다. (2) 그레이쉽 사용자·서비스는 전통적인 협업 필터링에서 평균적인 패턴에 매몰되기 쉬운데, 논문은 별도의 그레이쉽 탐지 모듈(GDM)을 통해 희소하지만 일관된 고유 패턴을 식별하고, 로컬 패턴 적응 모듈(LP‑AM)에서 이들의 특성을 강조한다. 이를 위해 그래프 기반 클러스터링과 희소성‑레질리언스 지표를 결합해, 그레이쉽 샘플을 자동으로 라벨링하고, 손실 가중치를 조정한다.
세 번째 축인 데이터 표현은 하이퍼그래프와 트랜스포머의 시너지에 기반한다. 기존 연구는 사용자‑서비스 간 이분 그래프만을 이용해 1‑order 관계를 모델링했지만, 본 논문은 두 종류의 하이퍼엣지를 정의해 “두 사용자가 같은 서비스를 이용” 혹은 “두 서비스가 같은 사용자가 이용”이라는 3‑order 관계를 명시한다. 이러한 하이퍼그래프는 HCN(Hypergraph Convolution Network) 내에서 하이퍼엣지별 인접 행렬을 구성하고, 각 하이퍼엣지에 대해 독립적인 그래프 컨볼루션을 수행한다. 결과적으로 고차원 상호작용을 저차원 임베딩으로 압축하면서도, 희소 데이터에서도 강인한 표현을 얻는다.
시간적 역동성은 트랜스포머 모듈에서 다루어진다. HCTN은 멀티헤드 어텐션을 기본으로 하면서, 병렬 1D 컨볼루션 레이어와 완전 연결된 Dense Block을 결합한다. 어텐션은 장기 의존성을 포착하고, 1D 컨볼루션은 지역적인 변동성을 빠르게 학습한다. 또한, Temporal Positional Encoding을 통해 시간 스텝 정보를 명시적으로 주입함으로써, 시계열 데이터의 순서 정보를 보존한다.
전체 파이프라인은 GP‑AM → HCFM → GMM → TGEM → CQPM 순으로 흐르며, 각 모듈은 end‑to‑end 방식으로 미분 가능하게 설계돼 공동 최적화가 가능하다. 실험에서는 WSDREAM‑2 데이터셋의 두 QoS 지표(응답시간, 처리량)에서 MAE·RMSE 기준으로 기존 GCN‑MF, TPMCF, 딥러닝 기반 베이스라인을 각각 12‑18% 이상 개선하였다. 특히, 그레이쉽 비율이 10% 이상인 상황에서도 성능 저하가 미미했으며, 이상치 비율을 20%까지 증가시켜도 손실 함수의 로그형 페널티 덕분에 예측 정확도가 크게 떨어지지 않았다.
요약하면, 본 논문은 (1) 비음수 행렬 분해로 초기 임베딩을 강화, (2) 하이퍼그래프 컨볼루션으로 고차원 협업 패턴을 포착, (3) 그레이쉽 탐지·완화와 강인 손실로 데이터 신뢰성을 확보, (4) 트랜스포머‑컨볼루션 하이브리드로 시계열 역동성을 정밀히 모델링한다는 네 가지 핵심 기여를 통해, 실시간·신뢰성·스케일러블한 QoS 예측 프레임워크를 제시한다.
댓글 및 학술 토론
Loading comments...
의견 남기기