다음세대 전송 서비스에서 흐름 분할과 운명 공유 구현

본 논문은 인터넷 경로가 다양해짐에 따라 전통적인 TCP 혼잡 제어가 성능 저하를 일으키는 문제를 다루며, 이를 해결하기 위해 “PEP(Performance Enhancing Proxy)”가 널리 사용되어 왔지만, PEP가 TCP의 엔드‑투‑엔드 신뢰성 및 운명 공유(fate sharing)를 훼손하고 IPsec과 호환되지 못한다는 근본적인 한계를 지적한다. 저자들은 이러한 구조적 결함을 “전송 계층의 혼잡 제어와 엔드‑투‑엔드 기능이 하나의 레이어에 결합돼 있다”는 점에서 찾고, 이를 해소하기 위해 전송 스택을 네 개의 독립적인 레이어로 분리한 차세대 전송 서비스 아키텍처인 Tng를 제안한다. 1. **Endpoint Layer**: IP 주소와 포트 번호 등 엔드포인트 식별 정보를 담당한다. 기존 OSI 모델의 네트워크‑전송 구분을 확장해, 방화벽·NAT 등 중간 장치가 트래픽을 식별·제어할 수 있도록 설계된다. 2. **Flow Regulation Layer**: 순수히 혼잡 제어와 흐름 조절을 담당한다. 여기서는 전통적인 TCP 혼잡 제어 알고리즘을 그대로 사용할 수도 있고, 특정 네트워크 구간에 최적화된 알고리즘을 적용할 수도 있다. 이 레이어는 상위 레이어에 “새 패킷 전송 가능” 신호를 제공함으로써 흐름을 제어한다. 3. **Isolation Layer**: 엔드‑투‑엔드 보안·신뢰성을 보호한다. IPsec 등 암호화된 트래픽이 중간 장치에 의해 해석되지 않도록 하면서, 필요 시 중간 장치가 흐름을 분할·재조합할 수 있는 최소한의 “소프트 상태”만 유지한다. 4. **Semantic Layer**: 최종적으로 신뢰성 바이트 스트림, 순서 보장, 오류 복구 등 애플리케이션이 요구하는 서비스 수준을 제공한다. 핵심 기술인 **큐 공유(queue sharing)**는 흐름을 물리적으로 나누는 대신, 두 연속 구간의 혼잡 제어 루프를 하나의 가상 큐에 연결한다. 구간 A와 구간 B 사이에 PEP가 삽입될 때, PEP는 각 구간의 전송 윈도우를 독립적으로 관리하지만, 두 구간이 공유하는 큐에 대한 상태(예: 큐 길이, 평균 대기 시간)를 교환함으로써 전체 경로에 걸친 일관된 혼잡 제어가 이루어진다. 이 방식은 기존 PEP가 수행하던 TCP 스플리팅과 동일한 효과를 내면서도, 중간 장치가 실제 데이터 페이로드를 볼 필요가 없으므로 운명 공유와 IPsec 호환성을 유지한다. 시뮬레이션에서는 세 가지 대표적인 네트워크 환경을 모델링했다. 첫째, 손실률이 높은 무선 라인(예: Wi‑Fi, LTE)에서는 큐 공유가 재전송을 최소화하고 RTT를 크게 낮추어 전송 효율을 30 % 이상 향상시켰다. 둘째, 고대역폭·고지연 광케이블 구간에서는 전통적인 TCP가 혼잡 윈도우를 과도하게 확대해 버퍼링 지연이 발생하는데, 큐 공유는 윈도우 성장 속도를 제어해 지연을 40 % 이상 감소시켰다. 셋째, 가정용 브로드밴드에서 발생하는 “버퍼 블로팅” 현상에 대해서도, 흐름 분할과 큐 공유가 버퍼 사용량을 균등하게 분산시켜 평균 지연을 크게 낮추었다. 프로토타입 구현은 Linux 사용자 공간에서 동작하도록 설계되었으며, netfilter와 연동해 패킷을 가로채고 Flow Regulation 레이어의 큐 공유 로직을 적용한다. 실제 테스트에서는 시뮬레이션과 동일한 성능 향상을 확인했으며, 기존 애플리케이션 코드를 수정하지 않아도 동작한다는 점에서 실용성을 입증했다. 배포 전략은 단계적으로 제시된다. 초기 단계에서는 기존 TCP/UDP 위에 Tng Flow 레이어만 삽입해 “투명”하게 기존 PEP와 호환한다. 이후 Isolation 레이어를 추가해 보안·운명 공유를 보장하고, 최종적으로는 모든 레이어를 도입해 완전한 Tng 스택을 구현한다. 이러한 점진적 전환은 네트워크 운영자와 서비스 제공자가 대규모 인프라 교체 없이도 새로운 전송 메커니즘을 도입할 수 있게 한다. 결론적으로, Tng는 전송 계층을 기능별로 명확히 분리함으로써 PEP와 IPsec 사이의 구조적 충돌을 해소하고, 큐 공유라는 간단하면서도 강력한 메커니즘으로 흐름 스플리팅을 구현한다. 이는 향후 다양한 네트워크 환경에서 고성능·고보안 전송 서비스를 제공하기 위한 중요한 설계 방향을 제시한다.