데이터 기반 임상시험 하위그룹 선택: GLM과 등고선 회귀로 유형Ⅰ 오류 제어

초록

본 논문은 임상시험에서 안전성 또는 효능이 일정 기준을 초과하는 환자 하위그룹을 데이터‑드리븐하게 식별하면서 유형Ⅰ 오류를 엄격히 통제하는 두 가지 방법을 제안한다. 하나는 일반화 선형 모델(GLM) 기반, 다른 하나는 단조성 제약을 이용한 등고선 회귀(Isotonic Subgroup Selection, ISS)이다. 시뮬레이션을 통해 각 방법의 강점·약점을 비교하고, 모델 가정에 대한 민감도를 평가한다.

상세 분석

이 연구는 전통적인 사전 정의된 하위그룹 분석과 달리, 연구자가 사전에 지정한 목표 반응값(τ)만을 입력으로 하고, 데이터로부터 해당 목표를 만족하는 초수준 집합 Sτ={x:η(x)≥τ}의 경계(컷오프)를 자동으로 추정한다는 점에서 혁신적이다. 유형Ⅰ 오류를 제어하기 위해 “전체 초수준 집합에 포함될 확률 ≥1−α”라는 강력한 확률적 보장을 도입했으며, 이는 기존의 사후 선택(p‑hoc) 하위그룹 분석에서 흔히 발생하는 거짓 양성 문제를 근본적으로 해결한다. 두 가지 제안 방법은 각각 다른 모델링 가정을 전제로 한다. GLM 기반 방법은 η(x) 가 특정 연결 함수와 선형 predictor의 조합으로 표현될 수 있다는 가정 하에, 최대우도 추정과 부트스트랩 혹은 다중 테스트 보정 절차를 통해 초수준 집합의 신뢰구간을 구성한다. 반면 ISS는 η(x) 가 단조(non‑decreasing)라는 최소한의 구조적 제약만을 요구하며, 풀링된 순서통계량을 이용해 등고선 회귀곡선을 추정한다. 이때 단조성은 실제 임상 바이오마커와 반응 사이의 비선형 관계를 과도하게 제한하지 않으면서도, 초수준 집합의 형태를 보수적으로 추정하게 만든다. 시뮬레이션 결과는 GLM이 모델이 정확히 지정된 경우 높은 파워와 정확한 컷오프 추정치를 제공하지만, 모델 미스스펙화 시 오류율이 급격히 상승한다는 것을 보여준다. 반대로 ISS는 모델 가정에 대한 민감도가 낮아 다양한 데이터 생성 메커니즘에서 안정적인 유형Ⅰ 오류 제어를 유지하지만, 파워는 다소 낮은 편이다. 또한 논문은 안전성 하위그룹(부작용 발생 확률이 사전 정의된 임계값 이하)과 효능 하위그룹(치료 효과가 목표치 이상) 두 가지 실제 임상 질문에 각각 적용 사례를 제시하고, 실제 임상 데이터에 대한 적용 가능성을 논의한다. 마지막으로, 기존의 STEPP, SIDES, 인터랙션 트리 등과 비교했을 때, 제안된 방법은 1단계‑2단계 검증 절차 없이도 단일 데이터셋 내에서 오류 제어와 하위그룹 탐색을 동시에 수행한다는 실용적 장점을 가진다.