랜덤 푸리에 변환으로 향상된 변분 오토인코더: 항공 안전 이상 탐지 사례 연구

초록

본 연구는 랜덤 푸리에 변환(RFT)을 이용해 오토인코더(AE)와 변분 오토인코더(VAE)의 학습 및 추론 효율을 높이는 방법을 제안한다. F‑Principle 분석을 통해 RFT 적용 모델이 저주파와 고주파 특징을 동시에 학습함을 확인했으며, 기존 DNN은 저주파부터 점진적으로 고주파를 학습한다는 차이를 보였다. 또한, RFT의 파라미터를 학습 가능한 형태로 확장한 변형을 도입하였다. 저차원 합성 데이터와 고차원 항공 안전 데이터(Dashlink)를 활용한 실험 결과, RFT 기반 모델이 기존 모델보다 재구성 정확도와 이상 탐지 성능에서 우수함을 확인했지만, 학습 가능한 RFT와 랜덤 RFT 간 성능 차이는 명확히 규명되지 않았다.

상세 분석

이 논문은 딥러닝 기반 이상 탐지에서 핵심적인 두 가지 과제, 즉 모델 학습 속도와 일반화 성능을 동시에 개선하고자 랜덤 푸리에 변환(Random Fourier Transformation, RFT)을 도입한다. RFT는 입력 데이터를 고차원 푸리에 공간으로 매핑함으로써, 원본 데이터의 주파수 스펙트럼을 보다 풍부하게 표현한다. 저자들은 먼저 기존 DNN이 ‘주파수 원칙(F‑Principle)’에 따라 저주파 성분을 먼저 학습하고, 이후 고주파 성분을 점진적으로 습득한다는 점을 재현하였다. 반면, RFT를 적용한 모델은 입력이 이미 다양한 주파수 성분을 포함하도록 변환되기 때문에, 학습 초기부터 저주파와 고주파를 동시에 학습한다는 특성을 보였다. 이는 특히 고차원 데이터에서 미세한 이상 패턴을 빠르게 포착하는 데 유리하다.

또한, 논문은 RFT를 완전히 무작위로 고정하는 전통적 방식과 달리, 파라미터를 학습 가능한 형태로 만든 ‘Trainable RFT’를 제안한다. 이는 기존 계산 그래프를 그대로 활용해 RFT 계수를 역전파로 업데이트함으로써, 데이터에 최적화된 주파수 변환을 가능하게 한다. 그러나 실험 결과, Trainable RFT가 랜덤 RFT보다 일관된 성능 향상을 보이지 않아, 파라미터 학습이 실제로 유의미한 이득을 제공하는지에 대한 의문이 남는다.

실험 설계는 두 단계로 구성된다. 첫 번째는 2D 가우시안 혼합 및 원형 패턴 등 저차원 합성 데이터셋을 이용해 모델의 표현력과 학습 동태를 시각화한다. 여기서 RFT 기반 AE/VAE는 동일한 차원 수에서도 더 명확한 클러스터링과 낮은 재구성 오차를 달성한다. 두 번째는 항공 안전 로그 데이터인 Dashlink를 활용한 고차원 재구성 기반 이상 탐지 실험이다. 이 데이터는 수천 개의 센서 변수와 이벤트 타임스탬프를 포함하며, 실제 비정상 상황(예: 센서 고장, 비정상 비행 패턴)과 정상 상황이 혼재한다. RFT 적용 모델은 ROC‑AUC, PR‑AUC 등 주요 지표에서 기존 AE/VAE 대비 평균 3~5%p의 개선을 보였으며, 특히 희소한 이상 사례를 탐지할 때 재현율이 크게 상승하였다.

하지만 몇 가지 한계도 지적된다. 첫째, RFT 차원 확대가 메모리와 연산 비용을 증가시켜, 실시간 시스템에 적용하기 위해서는 차원 축소 기법과의 조합이 필요하다. 둘째, Trainable RFT의 학습이 불안정해 과적합 위험이 존재하며, 하이퍼파라미터 튜닝이 복잡해진다. 셋째, F‑Principle 분석이 주로 시각적·정성적 평가에 머물러, 정량적 메트릭을 통한 일반화 검증이 부족하다. 향후 연구에서는 메모리 효율적인 스파스 푸리에 매핑, 적응형 주파수 샘플링, 그리고 다양한 도메인(예: 의료, 사이버 보안)에서의 전이 학습 효과를 검증할 필요가 있다.