문서형 NoSQL 데이터베이스를 위한 확장 가능한 트랜잭션 관리 프레임워크

초록

본 논문은 MongoDB를 기준으로 문서형 NoSQL 데이터베이스에 적용 가능한 4단계 트랜잭션 관리 프레임워크를 제안한다. 트랜잭션 수명 주기 관리, 연산 분류, 사전 충돌 탐지, 적응형 락킹 및 타임아웃 기반 교착상태 방지를 결합하여 충돌 직렬화와 높은 처리량을 동시에 달성한다. YCSB 워크로드 A·B·F와 1~100 클라이언트 동시성을 이용한 실험에서 abort 비율을 8.3%→4.7%로 낮추고, 지연 변동성을 34.2% 감소시켰으며, 높은 동시성에서 6.3%~18.4%의 스루풋 향상을 보였다.

상세 분석

제안된 프레임워크는 전통적인 2단계 잠금(2PL)과 낙관적 동시성 제어(OCC)의 장점을 융합한 하이브리드 설계로, 먼저 트랜잭션을 초기화 단계에서 컨텍스트를 할당하고, 연산 분류 단계에서 읽기‑쓰기, 읽기‑전용, 복합 연산 등으로 구분한다. 특히 문서형 데이터 모델에 최적화된 연산 분류는 동일 컬렉션 내 다중 문서 접근을 식별해 잠금 범위를 문서 수준으로 제한함으로써 잠금 충돌을 최소화한다. 세 번째 단계인 사전 충돌 탐지는 트랜잭션이 실제 실행에 들어가기 전에 읽기‑쓰기 집합을 분석해 잠재적 충돌을 예측한다. 이 과정은 O(n log n) 복잡도를 가지며, n은 트랜잭션 내 연산 수이다. 충돌이 감지되면 즉시 재시도(back‑off) 정책을 적용해 불필요한 실행을 방지한다. 네 번째 단계에서는 적응형 락 매니저가 타임아웃 기반 교착상태 방지를 수행한다. 락 획득이 지정된 100 ms를 초과하면 자동으로 트랜잭션을 중단하고 백오프를 적용한다. 백오프는 초기 10 ms에서 최대 500 ms까지 지수적으로 증가하도록 설계돼, 높은 동시성 상황에서도 시스템이 전진(forward progress)할 수 있게 한다. 형식적 증명에서는 충돌 직렬화(conflict serializability)를 보장하기 위해 락 순서와 타임아웃 정책을 수학적으로 모델링했으며, 모든 허용된 스케줄이 직렬 가능한 순서와 동등함을 증명하였다. 실험 결과는 사전 충돌 탐지가 전체 충돌 중 약 78%를 사전에 차단하고, 타임아웃 기반 교착상태 방지가 실제 교착상태 발생을 0%로 만든다는 점을 보여준다. 또한, 기존 MongoDB 네이티브 트랜잭션, CockroachDB, TiDB와 비교했을 때 일관성 보장은 유지하면서 평균 레이턴시 오버헤드를 9% 이하로 제한하고, 스루풋은 6%~18% 향상되는 균형 잡힌 성능을 제공한다. 이러한 설계는 NoSQL 시스템이 강력한 ACID 보장을 요구하는 금융·헬스케어 등 고신뢰성 도메인에 적용될 수 있는 실용적인 경로를 제시한다.