비선형 모델링을 위한 기능적 균등 사전분포

초록

본 논문은 비선형 회귀와 같은 비선형 함수가 모델의 핵심을 차지할 때, 파라미터 공간이 아닌 함수 형태 공간에서 균등 사전분포를 정의하는 방법을 제시한다. 일반적인 거리 공간에서 균등분포를 구성하는 이론을 이용해 함수 형태에 대해 균등하게 사전분포를 부여하고, 이를 원래 파라미터로 역변환한다. 제안된 사전분포는 파라미터 재표현에 대해 불변이며, 우도 원칙을 위배하지 않는다. 임상 용량 탐색 시험의 실제 데이터와 시뮬레이션을 통해 적용 가능성을 확인하고, 베이지안 최적 설계에도 활용한다.

상세 분석

이 논문은 비선형 모델링에서 사전분포 선택이 갖는 근본적인 문제점을 재조명한다. 전통적으로는 파라미터에 대해 균등 사전분포를 부여하거나 제프리 사전분포를 사용하지만, 전자는 파라미터 재표현에 따라 사전분포가 변하고, 후자는 데이터와 사전이 혼합되는 방식이 우도 원칙을 위배한다는 비판을 받아왔다. 저자들은 이러한 한계를 극복하기 위해 “함수 형태 공간”이라는 새로운 차원을 도입한다. 함수 형태 공간은 비선형 함수 f(·;θ) 를 정의역과 공역 사이의 매핑으로 보며, 이를 일반적인 거리(metric) 구조 위에 놓는다. 거리 함수는 보통 L2 노름이나 최대 절대값 차이와 같은 함수 간 차이를 측정하는 방식으로 정의된다.

거리 공간이 정해지면, 그 공간에서 균등분포를 정의하는 일반적인 방법인 “볼(구) 측정” 개념을 적용한다. 구체적으로는, 함수 형태 공간의 어느 점을 중심으로 반경 r인 구의 부피를 계산하고, r이 무한히 커질 때 비율이 일정하도록 사전밀도를 정의한다. 이렇게 얻어진 사전분포는 함수 자체에 대해 균등하게 배분되며, 파라미터 θ에 대한 사전분포는 함수와 파라미터 사이의 변환 Jacobian을 통해 역변환된다. 중요한 점은 이 변환 과정이 파라미터 재표현에 대해 불변성을 유지한다는 것이다. 즉, θ를 다른 파라미터 φ = g(θ) 로 바꾸어도, 함수 형태 공간에서의 균등성은 그대로 유지되므로 사전분포가 달라지지 않는다.

통계적 성질 측면에서, 제안된 사전분포는 정보량을 최소화하면서도 데이터에 대한 과도한 사전 편향을 방지한다. 특히 비선형 회귀에서 흔히 나타나는 “플랫 사전”이 실제로는 특정 파라미터 영역을 과도하게 강조하는 문제를 해소한다. 또한, 제프리 사전과 달리 Fisher 정보 행렬을 필요로 하지 않으므로, 복잡한 비선형 모델에서도 계산이 용이하다.

실제 적용 사례로는 임상 용량 탐색 시험에서 흔히 사용되는 Emax 모델과 로그-정규 모델을 대상으로 한다. 저자들은 실제 임상 데이터에 대해 기능적 균등 사전을 적용하고, 기존 플랫 사전 및 제프리 사전과 비교하였다. 결과는 사후 추정치의 평균 제곱 오차가 감소하고, 신뢰구간이 보다 현실적인 폭을 보이며, 특히 파라미터 경계 근처에서의 불안정성이 크게 완화되었음을 보여준다. 시뮬레이션에서도 동일한 경향이 재현되었으며, 특히 표본 크기가 작을 때 사전 선택에 따른 차이가 두드러졌다.

마지막으로, 베이지안 최적 설계 문제에 이 사전분포를 적용하였다. 설계 효율성을 평가하기 위해 D-최적성 기준과 평균 예측 오차를 사용했으며, 기능적 균등 사전이 설계 공간을 보다 균형 있게 탐색하도록 유도함을 확인했다. 이는 실험 비용을 절감하고, 중요한 용량 구간에 대한 정보를 효율적으로 확보하는 데 기여한다.

전반적으로 이 연구는 “함수 형태 공간에서의 균등성”이라는 새로운 관점을 제시함으로써, 비선형 모델링에서 사전분포 선택의 이론적 기반을 확장하고, 실무 적용 가능성을 입증하였다.