경계 근접 현상에서의 자유도 근사와 랜덤 로트 안정성 분석

초록

본 논문은 제약 안정성 추세 분석에 사용되는 선형 혼합모델에서 조건부 평균 신뢰구간을 계산할 때, 분모 자유도(DDF) 추정 방법에 따라 결과가 크게 달라질 수 있음을 밝힌다. 특히, 분산 성분이 0에 가까울 때 사터와이트(Satterthwaite) 자유도가 급격히 감소해 과도한 t‑값을 초래하고, 신뢰구간이 비단조적이거나 과도하게 넓어져 만료(Expiry) 판단에 오류를 일으킨다. 반면, 컨테인먼트(Containment) 자유도는 이러한 경계 효과에 강인하며 안정적인 추정을 제공한다. 저자는 컨테인먼트 사용을 권고하고, 불가능할 경우 10 % 분산 기여도 감소 규칙이나 AICc 단계적 감소를 실용적인 대안으로 제시한다.

상세 분석

이 연구는 제약 산업에서 로트(lot)별 안정성 데이터를 분석할 때, “조건부 평균(confidence limits for conditional‑mean)” 접근법이 널리 쓰인다는 점을 전제로 한다. 조건부 평균은 각 로트에 대한 고정 효과와 로트‑특이 랜덤 효과를 결합한 예측값이며, 이 값의 신뢰구간을 통해 제품의 만료 시점을 판단한다. 핵심은 신뢰구간을 구성하는 두 요소, 즉 표준오차와 t‑분포의 임계값이다. 여기서 임계값을 결정하는 것이 바로 분모 자유도(DDF) 추정 방법이다.

논문은 두 가지 DDF 추정법을 비교한다. 첫 번째는 사터와이트(Satterthwaite) 방식으로, 이는 각 대비(contrast)마다 추정된 분산 성분을 이용해 자유도를 순간적으로 계산한다. 이 방식은 분산 추정치가 0에 매우 근접하면 자유도가 1 이하로 급락하고, 그 결과 t‑값이 6 ~ 7 수준으로 크게 부풀어진다. 실제 사례에서는 24개월 시점에 Satterthwaite 자유도가 1이 되어 95 % 단측 t‑값이 6.31이 되었으며, 이는 동일 데이터에서 컨테인먼트 자유도(59)로 계산된 1.67에 비해 약 4배 넓은 신뢰구간을 초래했다.

두 번째는 컨테인먼트(Containment) 방식이다. 이는 설계 기반으로 전체 대비에 대해 고정된 자유도를 제공한다. 랜덤 효과 분산이 0에 가까워져도 자유도가 급변하지 않으며, 따라서 신뢰구간이 부드럽게 감소하고 비단조적 현상이 거의 발생하지 않는다. SAS PROC MIXED와 JMP Pro(버전 19 이상)에서 지원하지만, 기본 JMP에서는 제공되지 않는다.

경계 근접 현상은 “분산 성분이 0에 가까워지는 경우”에만 발생한다는 점을 강조한다. 이는 모델이 실제로는 랜덤 효과가 없을 수도 있지만, 추정 과정에서 미세한 양수값을 얻게 되면 사터와이트 자유도가 비정상적으로 작아지는 비정규(non‑regular) 상황이다. 이러한 비정규성은 모델 선택 단계에서도 문제를 일으킨다. 예를 들어, AICc 기반 단계적 감소는 분산이 0에 가까운지를 판단해 모델을 축소하지만, 경계에 위치한 파라미터를 제거하는 것이 통계적으로 정당하지 않을 수 있다.

실제 데이터와 시뮬레이션을 통해 저자는 다음과 같은 실용적 결론을 도출한다. 첫째, 가능한 경우 컨테인먼트 자유도를 사용해 전체 랜덤‑로트 모델을 그대로 유지한다. 둘째, 컨테인먼트를 사용할 수 없는 환경에서는 “10 % 분산‑기여도 감소 규칙”을 적용한다. 이는 제안된 만료 시점(t*)에서 각 랜덤 효과(인터셉트·슬로프)의 분산 기여도가 전체 변동의 10 % 미만이면 해당 효과를 제거하고 모델을 재추정한다. 셋째, AICc 단계적 감소는 보조적 민감도 분석으로 활용하되, 만료 시점이 규격 한계에 근접한 경우 과도하게 낙관적인 결과를 낼 수 있음을 경고한다.

전반적으로, 논문은 DDF 선택이 로트‑별 만료 판단에 미치는 영향을 정량적으로 보여주며, 특히 사터와이트 자유도의 경계 근접 불안정성을 실무에서 어떻게 완화할 수 있는지를 구체적인 워크플로우와 시뮬레이션 결과로 제시한다. 이는 규제 가이드라인이 아직 DDF 선택을 명시하지 않은 현재 상황에서, 분석가들이 보다 일관되고 보수적인 결정을 내릴 수 있게 하는 중요한 지침이 된다.