고경합 OLTP를 위한 멀티코어 확장 설계 원칙

초록

본 논문은 다중 코어 환경에서 고경합 트랜잭션 워크로드의 처리량이 급격히 감소하는 원인을 두 가지 설계 결함—기능이 혼재된 실행 스레드와 사전 데이터 접근 계획 부재—으로 규명한다. 이를 해결하기 위해 기능을 코어별로 분리하고, 트랜잭션 실행 전에 접근 패턴을 예측해 잠금 순서를 고정하는 두 설계 원칙을 제시한다. 프로토타입 시스템 ORTHRUS는 이러한 원칙을 적용해 명시적 메시지 전달 방식으로 실행·동시성 제어 스레드를 분리하고, 데드락 회피 프로토콜을 구현한다. 실험 결과, 고경합 워크로드에서 기존 2PL 기반 시스템에 비해 10배 이상 높은 스루풋과 선형에 가까운 확장성을 달성한다.

상세 분석

논문은 먼저 고경합 OLTP 환경에서 “코어를 추가하면 트랜잭션 수가 늘어나지만, 동일 데이터에 대한 직렬화 필요성 때문에 전체 처리량이 제한된다”는 근본적인 한계를 명시한다. 기존 상용·학술 DBMS는 대부분 하나의 스레드가 트랜잭션 전체를 담당하도록 설계돼 있는데, 이때 트랜잭션 로직과 동시성 제어(락 매니저, OCC 검증 등)가 동일 코어에서 동시에 수행된다. 결과적으로(1) 락 메타데이터에 대한 원자 연산이 빈번히 발생해 동기화 비용이 급증하고, (2) 메타데이터가 여러 코어 사이를 오가며 캐시 라인 이동이 빈번해 메모리 대역폭과 레이턴시가 악화되며, (3) 실행 로직과 락 관리 로직이 동일 캐시 공간을 차지해 캐시 오염이 발생한다. 이러한 세 가지 요인은 트랜잭션 실행 시간을 늘리고, 특히 경합이 심한 상황에서는 충돌 트랜잭션이 대기하거나 abort되는 확률이 높아져 전체 스루풋이 급감한다.

두 번째 문제는 동적 락 획득이다. 2PL 기반 시스템은 트랜잭션 실행 중에 필요 데이터에 따라 락을 순차적으로 요청한다. 락을 임의 순서로 획득하면 데드락이 발생하고, 이를 탐지·해소하기 위한 추가 로직(데드락 그래프 탐색, 타임아웃 등)이 락 보유 시간을 더욱 늘린다. 고경합 워크로드에서는 데드락 발생 빈도가 높아져 불필요한 abort와 재시도가 빈번히 일어나며, 이는 다시 시스템 전체 효율을 저하시킨다.

논문이 제안하는 두 가지 설계 원칙은 이러한 병목을 근본적으로 해소한다. 첫 번째는 기능 분리이다. 코어를 크게 두 그룹으로 나누어 하나는 트랜잭션 로직만 수행하고, 다른 하나는 락 관리·버전 관리 등 동시성 제어 전용으로 만든다. 두 그룹 간 통신은 명시적 메시지 패싱으로 구현해, 공유 메타데이터에 대한 직접적인 경쟁을 없앤다. 이렇게 하면 원자 연산이 발생하는 메모리 영역이 각 코어에 고정되므로 동기화 비용과 캐시 라인 이동이 크게 감소한다.

두 번째는 사전 데이터 접근 계획이다. 트랜잭션이 실행되기 전에 접근할 레코드 집합을 분석해 잠금 순서를 미리 결정한다. 고정된 순서에 따라 락을 획득하면 데드락이 이론적으로 발생하지 않으며, 따라서 데드락 탐지·해소 로직을 완전히 제거할 수 있다. 또한, 미리 파악된 접근 패턴을 기반으로 락 매니저가 사전에 필요한 메타데이터를 해당 코어에 배치하도록 스케줄링하면, 메모리 이동 비용도 최소화된다.

ORTHRUS 프로토타입은 이러한 원칙을 실제 시스템에 적용한 사례이다. 실행 스레드와 동시성 제어 스레드가 각각 독립된 큐와 메시지 버퍼를 통해 통신하며, 트랜잭션 시작 시 파서가 접근 집합을 추출해 순서화된 락 요청 메시지를 생성한다. 락 매니저는 요청을 순차적으로 처리하고, 모든 락이 확보되면 실행 스레드에 ‘실행 허가’ 메시지를 보낸다. 이 과정에서 락 매니저는 각 레코드에 대한 메타데이터를 고정된 코어에 할당해 캐시 친화성을 확보한다.

실험에서는 TPC‑C와 YCSB 기반의 고경합 워크로드를 사용해 ORTHRUS와 기존 2PL 구현을 비교하였다. 결과는 40코어 이상에서도 ORTHRUS가 거의 선형에 가까운 스루풋 증가를 보인 반면, 기존 시스템은 20코어를 넘어 급격히 포화되거나 오히려 성능이 감소했다. 특히 읽기‑전용 트랜잭션에서도 락 메타데이터 동기화 비용이 사라져 2PL 대비 8배 이상의 처리량을 달성했다.

이 논문은 고경합 상황에서 멀티코어 DBMS가 직면한 구조적 한계를 명확히 규명하고, 기능 분리와 사전 접근 계획이라는 두 가지 설계 원칙이 실질적인 성능 향상을 가져올 수 있음을 실험적으로 입증한다. 향후 연구는 이러한 원칙을 분산 환경이나 복합적인 트랜잭션(멀티‑파티션)에도 확장하는 방안을 탐색할 필요가 있다.