재전송을 이용한 은닉 통신 기법

초록

본 논문은 패킷 재전송 메커니즘을 활용한 새로운 네트워크 스테가노그래피 기법인 RSTEG을 제안한다. 수신자가 정상적인 ACK를 의도적으로 누락함으로써 재전송을 유도하고, 재전송되는 패킷의 페이로드에 은닉 데이터를 삽입한다. TCP를 중심으로 구현 방식을 설명하고, 시뮬레이션을 통해 스테가노그래픽 대역폭과 재전송 비율에 미치는 영향을 평가한다.

상세 분석

RSTEG은 기존 네트워크 스테가노그래피 분류 체계에서 ‘하이브리드(HB)’에 해당하지만, 독특하게 재전송 메커니즘 자체를 은닉 채널로 활용한다는 점에서 차별성을 가진다. 전통적인 MP 방식이 헤더나 페이로드를 직접 변조하는 반면, RSTEG은 정상적인 트래픽 흐름을 유지하면서도 재전송 시점에만 은닉 데이터를 삽입한다. 이는 네트워크 장비가 재전송을 정상적인 오류 복구 과정으로 인식하게 하여 탐지를 어렵게 만든다. 논문은 네 가지 통신 시나리오를 제시한다. 시나리오 1은 송신자와 수신자가 직접 협업하는 가장 단순한 형태이며, 시나리오 2~4는 중간 노드(SS, SR)가 은닉 데이터를 삽입·추출하는 구조로, 중간 노드가 트래픽 경로에 존재할 경우 탐지가 더욱 어려워진다. 특히 시나리오 4에서는 두 개의 중간 노드가 협력해 원본 페이로드를 복제·보관하고, 재전송 패킷에 은닉 데이터를 삽입한 뒤 원본을 복원해 전송하는 복합적인 절차가 포함된다. 이러한 복잡성은 스테가노그래피 탐지 시스템이 패킷 순서와 재전송 횟수만을 기반으로 판단하기 어렵게 만든다.

TCP 적용 부분에서는 RTO, Fast Retransmit/Recovery, SACK 등 세 가지 재전송 메커니즘을 모두 활용할 수 있음을 강조한다. 특히 RTO 기반 재전송은 타이머 만료에 따라 발생하므로, 은닉 데이터를 삽입할 시점을 정밀하게 제어해야 한다. 논문은 송·수신 양측이 사전에 공유한 비밀 키(Steg‑Key)를 이용해 삽입될 세그먼트를 해시 함수로 식별하고, 제어 비트(CB)를 통해 재전송 요청 세그먼트와 은닉 데이터가 포함된 세그먼트를 구분한다. 이는 정상 트래픽과 구분되지 않도록 설계된 중요한 보안 메커니즘이다.

시뮬레이션 결과는 RSTEG이 TCP 재전송 메커니즘에 따라 5~20 bps 정도의 스테가노그래픽 대역폭을 제공함을 보여준다. 동시에 전체 재전송 비율을 7 % 이하로 유지하도록 조절하면 기존 네트워크 성능에 미치는 영향이 최소화된다. 그러나 은닉 데이터 삽입량이 증가하면 재전송 비율이 상승하고, 이는 패킷 손실률 증가와 함께 탐지 위험을 높인다. 따라서 은닉 데이터 전송량을 동적으로 조절하고, 네트워크 혼잡 상황을 실시간으로 모니터링하는 것이 필수적이다.

보안 측면에서는 RSTEG이 정상적인 재전송 흐름을 악용하므로, 기존의 재전송 기반 이상 탐지 기법만으로는 탐지가 어려울 수 있다. 탐지를 위해서는 재전송 패턴의 통계적 분석, 재전송 요청 세그먼트와 실제 데이터 변조 여부를 교차 검증하는 방법이 필요하다. 또한, 중간 노드가 은닉 데이터를 삽입·추출하는 경우, 해당 노드의 트래픽 로그와 패킷 변조 흔적을 추적하는 포렌식 기법이 요구된다.

전반적으로 RSTEG은 프로토콜 레이어를 그대로 유지하면서 은닉 채널을 제공하는 효율적인 방법이지만, 은닉 데이터 양과 재전송 빈도 사이의 트레이드오프를 신중히 관리해야 한다는 점이 핵심 인사이트이다.