넷맘바 플러스 프레임워크

초록

NetMamba+는 Mamba 기반 선형 시계열 모델과 Flash Attention을 결합한 효율적인 아키텍처와, 헤더·페이로드를 모두 활용하는 멀티모달 트래픽 표현 방식을 도입한다. 라벨 분포를 고려한 파인튜닝 전략으로 장기 꼬리 분포 문제를 완화하고, 대규모 사전학습 후 소량 라벨만으로도 높은 정확도와 빠른 추론 속도를 달성한다.

상세 분석

본 논문은 네트워크 트래픽 분류에 기존 Transformer 기반 모델이 안고 있던 세 가지 근본적인 한계를 체계적으로 분석하고, 이를 극복하기 위한 NetMamba+ 프레임워크를 제안한다. 첫 번째로, Mamba라는 선형 시간 복잡도를 갖는 상태공간 모델(SSM)을 기반으로 하여 시퀀스 길이에 관계없이 O(N) 연산량을 유지한다. 특히 단방향 Mamba에 잔차 연결을 추가하고, 불필요한 양방향 스캔과 중복 블록을 제거함으로써 메모리 사용량과 연산 지연을 크게 감소시켰다. 두 번째로, Flash Attention을 선택적으로 적용해 기존 Transformer의 2차 복잡도 문제를 완화하면서도 병렬 처리 효율을 높였다. 이때 사전 정규화(pre‑normalization)와 GeGLU 활성화 함수를 도입해 학습 안정성을 강화하고, 정확도 향상을 도모하였다. 세 번째로, 트래픽 데이터의 멀티모달 특성을 살리기 위해 헤더와 페이로드를 각각 별도 토큰화하고, 바이트 밸런스와 스트라이드 기반 절단 기법을 적용해 데이터 편향을 최소화하였다. 패킷 익명화와 바이트 할당 균형을 통해 개인 정보 노출 위험을 낮추면서도 중요한 전송 패턴을 보존한다. 마지막으로, 라벨 분포 인식 파인튜닝 전략을 설계해 장기 꼬리(class‑imbalance) 문제를 해결한다. 라벨 빈도에 따라 가중치를 부여하고, 소수 클래스에 대해 큰 마진을 강제하는 손실 함수를 도입함으로써, 소수 클래스의 재현율을 크게 향상시켰다. 실험 결과, NetMamba+는 4가지 주요 분류 과제에서 기존 최첨단 모델 대비 F1 점수가 최대 6.44% 상승했으며, 추론 처리량은 1.7배 증가하고 메모리 사용량은 비슷한 수준을 유지한다. 또한, few‑shot 설정에서도 라벨이 적은 상황에서 높은 성능을 보였고, 실제 온라인 시스템 구현 시 261.87 Mb/s의 처리량을 달성해 실용성을 입증하였다. 전체적으로 NetMamba+는 효율성, 정확성, 그리고 실시간 적용 가능성이라는 세 축을 모두 만족시키는 혁신적인 네트워크 트래픽 분류 솔루션이라 평가할 수 있다.