무선 엣지에서 강인한 다중작업 대형 언어 모델 융합

초록

본 논문은 무선 엣지 환경에서 다중작업 대형 언어 모델(MTLLM)을 구성하기 위해 작업 벡터를 합치는 모델 융합 방식을 연구한다. 악의적인 적대적 노이즈가 전송 과정에 삽입될 경우, 평균제곱오차(MSE)가 증가해 작업 간 간섭이 심화되고 성능이 급격히 저하된다. 이를 해결하기 위해 저자들은 무선 채널 특성을 고려한 최악의 노이즈 공분산을 분석하고, LLM 구조와 파인튜닝 특성을 활용한 두 단계 방어 메커니즘(임베딩 고정과 소수 샷 재정렬)을 결합한 R‑MTLLMF 프레임워크를 제안한다. 비전 트랜스포머 기반 실험에서 R‑MTLLMF는 이상적인 전송 상황에서는 기존 모델에 근접한 성능을, 최악의 적대적 상황에서는 크게 향상된 복원력을 보였다.

상세 분석

본 연구는 무선 엣지에서 다수의 사용자들이 동일한 사전학습 LLM을 기반으로 각각의 특수 작업에 대해 파인튜닝하고, 파인튜닝 전후 파라미터 차이인 작업 벡터(task vector)를 전송·집계함으로써 다중작업 MTLLM을 구성한다는 기존 모델 융합 접근법을 확장한다. 핵심 문제는 무선 채널을 통한 작업 벡터 전송 시 발생할 수 있는 적대적 노이즈이다. 저자들은 먼저 MIMO 다중접속 채널에서 MMSE 수신기를 가정하고, 각 사용자별 MSE µ_q와 전체 합 MSE Σ_q µ_q 를 정의한다. 이후, 작업 벡터가 노이즈에 의해 변형될 경우 모델 출력 로짓의 변동을 1차 테일러 전개를 통해 Δθ = λ_N ε_q 로 표현하고, 로짓 변동이 로그우도 비율 R(x)=z_u(x)/z_d(x) 에 미치는 영향을 분석한다. 이때 |R(x)−1| 은 ε_q, 즉 MSE에 비례함을 보이며, 이를 가설 검정(H0: 변형 미미) 형태로 정량화한다. 가설 검정 임계값 T는 MSE에 기반한 표준편차와 원하는 유의수준 β 로 설정되며, MSE가 작을수록 H0를 만족할 확률이 높아짐을 수식적으로 증명한다. 따라서 무선 전송 품질이 MTLLM의 작업 간 간섭(Weight Disentanglement Error, WDE)과 직접 연결됨을 밝혀냈다.

다음으로 저자들은 최악의 적대적 공격을 모델링한다. 두 가지 목표 함수(P1: 전체 합률 최소화, P2: 최강 사용자율 최소화)를 설정하고, 잡음 공분산 C_z 를 최적화하는 saddle‑point 문제를 정의한다. 해석을 통해 C_z 의 최적 형태는 채널 행렬 HPH^H 의 고유벡터와 정렬된 잡음 스펙트럼 Σ 로 나타나며, P1에서는 전체 전력 제한 P_N 아래에서 고유값 σ_i 를 비례적으로 배분하고, P2에서는 가장 큰 채널 이득을 가진 사용자에 잡음을 집중시킨다. 이러한 최악 상황은 기존 ARQ·재전송 메커니즘을 무력화시키며, 순수한 물리계층 보호만으로는 해결이 어려움을 강조한다.

이에 대응하기 위해 제안된 R‑MTLLMF는 두 단계 AI‑기반 방어를 포함한다. 첫 번째 단계는 파라미터 고정(Frozen LLM Parameters)이다. 사전학습된 베이스 모델 θ_base 의 위치 임베딩, 패치 임베딩, 클래스 임베딩을 고정하고, 작업 벡터 집계 후에도 이들 파라미터를 복원한다. 이는 파인튜닝이 주로 self‑attention 가중치에 영향을 미치고, 임베딩은 다중작업 간 공통 표현을 담당한다는 사실에 기반한다. 두 번째 단계는 소수 샷 재정렬(Few‑Shot Realignment)이다. 잡음으로 인해 변형된 self‑attention 파라미터를 복구하기 위해, 각 작업에 대해 10개 정도의 대표 샘플을 이용해 짧은 파인튜닝을 수행한다. 이 과정은 메모리 혹은 공개 데이터셋을 활용해 프라이버시를 보장하면서도 토큰 간 관계를 재조정한다. 실험에서는 Vision‑Transformer 기반 VIT‑LLM을 8개의 비전 작업에 적용했으며, 이상적인 전송(노이즈 없음)에서는 λ_N 스케일링을 그대로 사용해 베이스라인과 0.5% 이내의 차이만을 보였다. 최악의 적대적 노이즈 상황에서는 기존 무보호 융합이 WDE 를 2.3배 이상 증가시켜 정확도가 30% 이하로 급락했으나, R‑MTLLMF는 WDE 를 0.8배 수준으로 억제하고 정확도를 평균 78%까지 회복했다. 마지막으로 물리계층 보조(예: 스펙트럼 스프레딩, jamming 탐지)와 결합하면 더욱 강인한 시스템 설계가 가능함을 제시한다.

이 논문은 무선 엣지에서 대규모 언어 모델을 다중작업으로 활용하려는 시나리오에 대해, 전송‑레벨 적대적 공격이 모델 융합에 미치는 영향을 정량화하고, AI‑기반 복구 메커니즘을 설계함으로써 실용적인 해결책을 제공한다. 특히, MSE‑WDE 연계 모델링, 최악의 잡음 공분산 설계, 그리고 임베딩 고정·소수 샷 재정렬이라는 두 단계 방어가 결합된 구조는 향후 6G·AI 융합 시스템에서 중요한 설계 원칙이 될 것으로 기대된다.