FedLLM Align 이질적 클라이언트를 위한 특징 추출

초록

FedLLM‑Align은 사전 학습된 대형 언어 모델(LLM)을 이용해 서로 다른 스키마를 가진 탭형 데이터를 텍스트로 변환하고, 일관된 임베딩을 생성한다. 각 클라이언트는 고정된 LLM 인코더로 얻은 임베딩 위에 경량 분류기를 학습하고, 분류기 파라미터만을 FedAvg 등 기존 연합 학습 방식으로 서버에 전송한다. 실험 결과, 심혈관 질환 예측과 금융 고객 이탈 예측 두 도메인에서 스키마 이질성을 시뮬레이션한 상황에서도 F1 점수가 최대 25% 향상되고, 통신량이 65% 감소하였다.

상세 분석

본 논문은 연합 학습(Federated Learning, FL) 환경에서 가장 큰 걸림돌 중 하나인 “스키마 이질성”(schema heterogeneity)을 해결하기 위해 LLM 기반 특징 추출 파이프라인을 제안한다. 기존 FL은 동일한 특성 공간을 전제로 모델 파라미터만 교환하지만, 실제 의료·금융·IoT 현장에서는 각 기관·디바이스가 서로 다른 변수명을 사용하거나 전혀 다른 특성 집합을 보유한다. 이러한 상황에서 단순 파라미터 평균은 의미 없는 업데이트를 초래하거나 수렴을 방해한다.

FedLLM‑Align은 세 단계로 구성된다. 첫 번째 단계는 탭형‑텍스트 직렬화로, 각 레코드를 “Feature: value” 형태의 짧은 자연어 문장으로 변환한다. 여기서 중요한 점은 직렬화 포맷이 일관되게 설계되어 LLM이 의미적 연관성을 파악하도록 돕는 것이다. 두 번째 단계는 고정된 사전 학습 LLM 인코더(예: DistilBERT, ALBERT)를 이용해 텍스트를 고차원 임베딩( CLS 토큰)으로 변환한다. 인코더는 학습 과정에서 동결(frozen)되어 클라이언트 간 모델 파라미터 교환이 필요 없으며, 사전 학습된 방대한 언어 지식이 서로 다른 스키마의 의미를 자연스럽게 정렬한다. 세 번째 단계는 경량 분류기(단일 은닉층 피드포워드 네트워크) 학습이다. 각 클라이언트는 LLM 임베딩을 입력으로 사용해 로컬 분류기를 학습하고, 업데이트된 가중치만을 서버에 전송한다. 서버는 전통적인 FedAvg 혹은 FedProx, SCAFFOLD 등 기존 연합 최적화 알고리즘을 그대로 적용한다.

핵심 기술적 인사이트는 다음과 같다.

1. 시맨틱 정렬: LLM은 “Age: 45”와 “PatientAge: 45 years”와 같은 서로 다른 표현을 유사한 벡터로 매핑한다. 따라서 스키마가 전혀 겹치지 않아도 의미적 일관성을 확보한다.
2. 통신 효율성: 인코더가 고정되어 있기 때문에 전송되는 데이터는 분류기 파라미터(수백~수천 개)뿐이며, 원본 레코드나 고차원 임베딩은 로컬에 머문다. 실험에서는 기존 FL 대비 65% 정도의 통신량 감소를 기록했다.
3. 프라이버시 보장: 원본 데이터와 임베딩이 디바이스를 떠나지 않으므로, 중간에 발생할 수 있는 정보 유출 위험이 크게 감소한다. 또한, 파라미터만 교환하므로 차등 프라이버시와 같은 추가 보안 기법과도 쉽게 결합 가능하다.
4. 성능 향상: 두 도메인(심혈관 질환 예측, 고객 이탈 예측)에서 스키마 이질성을 인위적으로 만들었음에도 불구하고, 기존 FedXGBoost, FedProx, Clustered FL 등과 비교해 F1 점수가 최대 25% 상승했다. 이는 LLM이 제공하는 풍부한 의미론적 표현이 비동질 데이터에서 일반화 능력을 크게 높인 결과이다.

한계점도 존재한다. LLM 인코더 자체가 메모리·연산 비용을 요구하므로, 매우 저전력 엣지 디바이스에서는 경량화된 변형(ALBERT 등) 혹은 온디바이스 양자화가 필요하다. 또한, 직렬화 과정에서 중요한 메타데이터가 손실될 위험이 있어, 도메인별 맞춤형 템플릿 설계가 요구된다. 향후 연구에서는 동적 프롬프트 최적화, 멀티모달(이미지·텍스트) 통합, 그리고 보안 집계 프로토콜(SecEA와 같은)과의 결합을 통해 더욱 견고한 시스템을 구축할 수 있을 것이다.