두 개의 순서가 있는 단조 회귀 곡선에 대한 최소제곱 추정

초록

본 논문은 동일한 설계점에서 관측된 두 개의 데이터 집합에 대해, 각각 단조성을 유지하면서도 서로 순서(g₁≤g₂)를 만족하는 두 회귀곡선의 최소제곱 추정량을 정의하고, 그 해의 특성을 이론적으로 규명한다. 가중 최소제곱 목적함수를 제약조건 집합 위에서 최소화하는 문제를 풀기 위해 일반화된 풀‑인접‑위배(PAVA) 알고리즘을 이용한 투사 연산과 반복적인 부분미분 서브그라디언트 방법을 결합한 알고리즘을 제안한다. 수렴성 분석과 시뮬레이션을 통해 알고리즘의 효율성을 확인하고, 최종적으로 기계공학 실험 데이터에 적용하여 실제 활용 가능성을 보여준다.

상세 분석

이 연구는 두 개의 순서가 정해진 단조 회귀곡선(g₁°, g₂°)을 동시에 추정하는 새로운 프레임워크를 제시한다. 전통적인 등고선 회귀(isotonic regression)는 하나의 순서 제약만을 고려하지만, 여기서는 두 곡선이 각각 비감소성을 만족하고 동시에 각 지점에서 g₁≤g₂라는 추가적인 순서 제약을 갖는다. 이러한 복합 제약은 단순히 두 개의 독립적인 등고선 회귀를 수행한 뒤 정렬을 강제하는 방식으로는 해결되지 않는다. 왜냐하면 개별 추정값이 서로 교차할 경우 전체 목적함수의 최소값을 놓칠 위험이 있기 때문이다.

논문은 먼저 가중 최소제곱 손실 L₂(a,b)=∑(y_j−a_j)²w₁ⱼ+∑(z_j−b_j)²w₂ⱼ를 정의하고, 제약조건 집합 C={a₁≤…≤aₙ, b₁≤…≤bₙ, a_i≤b_i ∀i} 위에서 (a*,b*)=argmin_{(a,b)∈C}L₂(a,b) 를 찾는 문제를 공식화한다. 이때 a와 b는 각각 n차원 실수 벡터이며, w₁ⱼ, w₂ⱼ는 양의 가중치이다.

주요 이론적 기여는 다음과 같다. 첫째, 최적해는 KKT(Karush‑Kuhn‑Tucker) 조건을 만족하는데, 이를 이용해 a와 b가 각각 구간별 평균값으로 표현된다는 특성을 도출한다. 즉, 연속된 구간에서 a와 b는 동일한 값으로 풀어지며, 이는 전통적인 PAVA가 구간 평균을 이용해 단조성을 강제하는 원리와 유사하지만, 두 곡선 사이의 순서 제약을 동시에 고려한다는 점에서 확장된다. 둘째, 이러한 구간 구조를 효율적으로 계산하기 위해 “일반화된 PAVA”를 설계한다. 일반화된 PAVA는 기존 PAVA의 풀‑인접‑위배(풀‑인접‑위배) 연산을 두 벡터 a와 b에 동시에 적용하면서, a_i≤b_i 조건을 위배하는 경우에는 두 구간을 동시에 병합하고 평균을 재계산한다. 이 과정은 제한된 횟수의 병합 연산으로 수렴하며, 최종적으로 a와 b가 각각 단조성을 유지하고 서로 정렬된 형태가 된다.

알고리즘 구현 측면에서는 투사 서브그라디언트 방법을 채택한다. 매 반복 단계에서 현재 추정 (a^{(k)}, b^{(k)})에 대해 손실 함수의 서브그라디언트를 계산하고, 이를 학습률 η_k와 함께 업데이트한다. 업데이트 후에는 일반화된 PAVA를 이용해 제약조건 C 위로 투사한다. 이 투사 연산은 비선형이지만, 위에서 설명한 병합‑평균 절차가 정확한 투사 해를 제공한다는 점에서 효율적이다. 수렴 증명은 투사 연산이 비확장(non‑expansive) 성질을 갖고, 손실 함수가 볼록(convex)함을 이용해 표준 서브그라디언트 수렴 이론을 적용한다.

실험에서는 두 가지 시나리오를 검증한다. 첫 번째는 인공 데이터 생성으로, 실제 g₁와 g₂를 사전에 정의하고 노이즈를 추가한 뒤, 제안 알고리즘과 기존 독립 등고선 회귀, 그리고 순서 제약을 단순히 사후 처리하는 방법을 비교한다. 결과는 제안 방법이 평균 제곱오차(MSE)와 순서 위배 비율 측면에서 현저히 우수함을 보여준다. 두 번째는 기계공학 분야에서 수집된 실제 실험 데이터(예: 압력‑변위 관계)이며, 두 곡선이 물리적으로 한계값을 초과하지 않도록 순서 제약을 적용하는 것이 의미가 있다. 여기서도 제안 방법이 데이터 적합도와 물리적 일관성을 동시에 만족한다는 점이 강조된다.

이 논문의 의의는 복합 제약을 갖는 다중 등고선 회귀 문제에 대한 체계적인 해법을 제공함으로써, 통계학적 추정과 최적화 이론을 실제 공학 문제에 직접 연결시킨 데 있다. 특히 일반화된 PAVA는 향후 다른 형태의 다변량 순서 제약 문제(예: 다중 그룹 간 순위 제한)에도 확장 가능성이 높다.