개인화 연합 학습 기반 실시간 교통 예측 프레임워크 NeighborFL

초록

본 논문은 교통 센서 간의 비동질적(IID) 데이터 특성을 고려하여, 실시간으로 모델을 업데이트하고 각 노드에 맞춤형 예측 모델을 제공하는 연합 학습 기법인 NeighborFL을 제안한다. haversine 거리와 실시간 예측 오차를 활용한 동적 군집화·선호 이웃(Favorite Neighbors) 메커니즘을 통해, 각 디바이스는 주변 이웃의 로컬 모델을 선택적으로 집계하고, 오차가 개선될 경우에만 해당 이웃을 군집에 포함한다. 실험 결과, PEMS‑Bay 데이터셋 기반 LSTM 모델에 대해 기존 전통적 FL 대비 평균 16.9%까지 MSE 감소를 달성하였다.

상세 분석

NeighborFL은 기존 연합 학습 기반 교통 예측(Future‑Learning for Traffic Prediction, FLTP) 연구가 안고 있던 두 가지 근본적인 한계를 동시에 해소한다. 첫 번째는 ‘실시간 모델 업데이트’ 부재이다. 대부분의 FLTP 프레임워크는 오프라인 학습 후 글로벌 모델을 배포하는 방식을 취해, 실시간 트래픽 변동(예: 사고, 날씨 변화)에 대한 적응성이 떨어진다. NeighborFL은 매 라운드마다 각 디바이스가 최신 로컬 데이터를 사용해 모델을 재학습하고, 즉시 예측에 반영하도록 설계돼, 데이터 드리프트에 대한 빠른 대응이 가능하다.

두 번째는 ‘비 IID 데이터 처리’ 문제다. 교통 센서는 지리적·시간적 특성에 따라 수집되는 데이터 분포가 크게 다르다. 기존 FL은 모든 디바이스에 동일한 글로벌 모델을 전달함으로써, 지역 특수성을 반영하지 못한다. NeighborFL은 haversine 거리 기반 반경 선택과 실시간 예측 오차(Mean Squared Error)를 활용한 ‘오차‑구동 집계(error‑driven aggregation)’ 메커니즘을 도입한다. 각 디바이스는 초기에는 빈 ‘Favorite Neighbors(FN)’ 집합을 가지고 시작하지만, 라운드마다 주변 디바이스의 로컬 모델을 후보로 받아들여, 해당 모델을 포함했을 때 예측 오차가 감소하면 FN에 추가한다. 반대로 오차가 악화되면 해당 이웃을 제외하거나 일정 기간 보류한다. 이 과정은 강화학습의 ‘탐험‑활용’ 원리를 연합 학습에 적용한 형태라 볼 수 있다.

기술적 구현 측면에서 NeighborFL은 두 종류의 집계 모델을 동시에 유지한다. ① 현재 FN에 포함된 로컬 모델과 자체 로컬 모델을 가중 평균(FedAvg)한 ‘개인화된 집계 모델(𝜃_i)’을 예측에 사용하고, ② 가장 최근 라운드에서 후보 이웃 모델을 추가로 집계한 ‘평가용 모델(𝜃_i^+)’을 생성해, 두 모델의 예측 오차를 비교한다. 오차가 더 낮은 모델을 선택해 다음 라운드 학습에 활용함으로써, 실시간 성능을 지속적으로 최적화한다.

실험 설계는 PEMS‑Bay 데이터셋의 26개 센서를 대상으로 LSTM 기반 로컬 모델을 사용했으며, 사전 학습(pre‑training) 여부에 따른 두 시나리오를 비교하였다. 결과는 (1) 사전 학습 없이도 기존 Naïve FL 대비 평균 12.3% MSE 감소, (2) 사전 학습을 적용했을 때 최대 16.9% 감소를 보여, 초기 모델 품질이 향상될수록 NeighborFL의 이점이 증폭됨을 확인했다. 또한 반경 제한을 통해 통신 비용을 제어하면서도, 인접 이웃 간 지식 전파(Knowledge Propagation) 효과가 나타나, 멀리 떨어진 디바이스도 간접적으로 최신 정보를 습득할 수 있었다.

강점으로는 (i) 실시간 적응성, (ii) 비 IID 환경에 대한 동적 개인화, (iii) 통신 효율성을 고려한 반경 기반 후보 선택, (iv) 오차 기반 자동 군집 업데이트가 있다. 반면 한계점은 (a) 후보 이웃 모델을 다운로드하고 평가하는 과정에서 연산·통신 오버헤드가 증가할 수 있다는 점, (b) 반경 및 오차 임계값 같은 하이퍼파라미터가 데이터·시나리오에 따라 민감하게 작용할 가능성, (c) 현재는 LSTM 하나의 아키텍처에 국한돼 있어, Transformer 기반 모델이나 멀티모달 입력에 대한 확장성이 검증되지 않았다는 점이다. 향후 연구는 (1) 하이퍼파라미터 자동 튜닝, (2) 경량화된 모델 평가 기법, (3) 그래프 신경망을 활용한 이웃 관계 학습, (4) 실제 스마트시티 인프라에 대한 필드 테스트 등을 통해 실용성을 높일 수 있을 것이다.