슬라이딩 양방향 순환신경망을 이용한 실시간 데이터 시퀀스 검출

본 논문은 통신 시스템에서 수신된 신호로부터 전송된 데이터 시퀀스를 복원하는 검출 문제를 다루며, 기존의 모델 기반 접근법이 갖는 한계를 딥러닝을 통해 극복하고자 한다. 저자들은 먼저 전통적인 검출기가 채널 모델(P(y|x;Θ))과 실시간 채널 상태 정보(CSI)에 의존한다는 점을 지적한다. 이러한 의존성은 복잡한 채널(예: 광통신의 포아송 채널, 물리적으로 복잡한 분자통신)에서 모델링이 어려울 경우 검출 성능 저하와 추가적인 파일럿 오버헤드를 초래한다. 이를 해결하기 위해 저자들은 두 단계의 학습 기반 검출 프레임워크를 제안한다. 첫 번째 단계는 오프라인 학습 단계로, 다양한 채널 조건을 반영한 대규모 데이터셋을 사용해 신경망을 훈련한다. 여기서는 전송 심볼을 원‑핫 인코딩한 벡터 p_k와 수신 신호 벡터 y_k를 입력‑출력 쌍으로 사용한다. 두 번째 단계는 실시간 검출 단계로, 훈련된 모델을 그대로 배치하여 실시간으로 들어오는 신호 스트림에 대해 순차적으로 심볼을 추정한다. 특히, 저자들은 “슬라이딩 양방향 순환신경망(Sliding Bidirectional RNN, SBRNN)”이라는 새로운 구조를 설계한다. SBRNN은 기본적인 양방향 RNN(BiRNN)을 윈도우 기반으로 슬라이딩 적용한다. 구체적으로, 길이 L의 윈도우를 설정하고, 각 윈도우 안에서 앞쪽(Forward)과 뒤쪽(Backward) RNN 레이어를 동시에 통과시켜 과거와 미래 정보를 모두 활용한다. 윈도우가 한 심볼씩 이동하면서 이전 윈도우의 출력과 현재 윈도우의 출력이 병합(merge)되어 최종 소프트맥스 레이어에 전달된다. 이 과정은 전체 시퀀스를 한 번에 처리하는 Viterbi 알고리즘과 달리, 메모리 요구량이 O(L)이며 연산 복잡도가 선형이므로 실시간 구현이 가능하다. 성능 평가를 위해 저자들은 포아송 채널 모델을 채택하였다. 포아송 채널은 광통신(Free‑Space Optical)과 분자통신 모두에서 널리 사용되는 모델로, 신호 강도와 잡음이 포아송 분포를 따른다. 다양한 ISI(Inter‑Symbol Interference) 길이와 잡음 레벨을 변조한 시뮬레이션 환경에서 SBRNN, 단일 방향 RNN, 그리고 전통적인 Viterbi Detector(VD)를 비교하였다. 결과는 다음과 같다. (1) SBRNN은 동일한 훈련 데이터와 동일한 연산 자원을 사용했음에도 불구하고, VD보다 낮은 비트 오류율(BER)을 달성했다. 특히 CSI가 부정확하거나 전혀 제공되지 않을 때 그 차이가 크게 나타났다. (2) SBRNN은 메모리 길이가 길어질수록 VD의 복잡도가 급격히 증가하는 반면, 연산량은 선형적으로 증가해 실시간 처리에 유리했다. (3) 단일 방향 RNN에 비해 양방향 구조가 미래 심볼 정보를 활용함으로써 ISI가 심한 경우에도 성능 향상이 뚜렷했다. 시뮬레이션 외에도 저자들은 실제 분자통신 플랫폼에서 수집한 실험 데이터를 사용했다. 이 플랫폼은 화학 물질을 방출하고 수신기가 농도 변화를 측정하는 방식으로, 채널 모델이 정확히 알려지지 않은 복잡한 시스템이다. 제한된 양의 측정 데이터(수천 개 샘플)만을 이용해 SBRNN을 학습시켰으며, 기존 실험 기반 검출기(예: 간단한 임계값 검출기)와 비교했을 때 BER이 2~3배 이상 감소하였다. 이는 데이터‑드리븐 접근이 모델링이 어려운 실제 시스템에서도 충분히 적용 가능함을 보여준다. 또한, 저자들은 채널 코히런스 시간이 심볼 하나 수준으로 짧은 급변 채널 상황을 시뮬레이션했다. SBRNN은 슬라이딩 윈도우가 매 심볼마다 새롭게 업데이트되므로, 최신 채널 상태를 즉시 반영한다. 실험 결과, 코히런스 시간이 1~2 심볼에 불과한 경우에도 SBRNN은 안정적인 BER을 유지했으며, VD는 CSI 추정 오류로 인해 성능이 급격히 저하되었다. 논문의 마지막 부분에서는 실용적인 구현 방안을 논의한다. 훈련 단계는 오프라인에서 대규모 시뮬레이션 데이터 혹은 실제 측정 데이터를 사용해 수행되며, 학습된 가중치는 고정된 형태로 수신기에 탑재된다. 실시간 검출 단계에서는 입력 신호를 짧은 버퍼에 저장하고, 미리 학습된 SBRNN 모델을 순차적으로 호출해 심볼을 추정한다. 이 과정은 GPU 혹은 경량화된 ASIC에서도 충분히 실행 가능하도록 설계될 수 있다. 요약하면, 이 논문은 (1) 채널 모델이 없거나 CSI를 추정하기 어려운 상황에서도 딥러닝 기반 검출기가 높은 성능을 보일 수 있음을, (2) 슬라이딩 양방향 RNN이라는 효율적인 구조를 통해 실시간 시퀀스 검출이 가능함을, (3) 포아송 채널 및 실제 분자통신 실험에서 기존 검출기 대비 BER 및 연산 효율 면에서 우수함을 입증하였다. 이러한 결과는 차세대 무선, 광, 그리고 바이오‑통신 시스템에서 모델‑프리 검출기로서 딥러닝이 차지할 수 있는 역할을 크게 확장시킬 것으로 기대된다.