함수 기반 비선형 최소제곱법과 Jelinski‑Moranda 신뢰도 모델 적용

초록

본 논문은 전통적인 최소제곱(LSE) 방식의 한계를 극복하기 위해 함수 기반 비선형 최소제곱(FNLSE) 추정법을 제안한다. 로그 변환 LSE(LogLSE)를 특수 사례로 포함하고, 새로운 멱변환 기반 LSE(powLSE)를 개발하여 Jelinski‑Moranda 모델의 파라미터를 추정한다. Newton‑Raphson 알고리즘으로 최적화하고, 6개의 표준 소프트웨어 결함 데이터셋에 대해 MTBF 예측 성능을 평가하였다. 실험 결과, 최적 멱 지수를 사용한 powLSE가 기존 LSE, MLE, LogLSE에 비해 상대오차(RE)와 Braun 통계량에서 우수함을 확인하였다.

상세 분석

논문은 먼저 전통적인 비선형 최소제곱(LSE)과 가중 비선형 최소제곱(WNLSE)의 수학적 배경을 정리한다. 데이터의 이분산성(heteroscedasticity)과 비정규성(non‑normality) 문제를 해결하기 위해, 관측값 y와 모델값 f(x,β)를 동일한 변환 함수 H(·)로 매핑한 뒤 제곱 오차를 최소화하는 함수 기반 비선형 최소제곱(FNLSE) 방식을 정의한다. 여기서 H는 1차 미분 가능하고 H′(x)≠0인 연속 함수이며, 로그 함수와 멱 함수가 대표적인 예이다. 정리 1은 H가 미분 가능하면 FNLSE는 가중 비선형 최소제곱 형태와 동등함을 증명하고, 정리 2는 |H′(x)|≤1 혹은 Lipschitz 상수 L<1인 경우 FNLSE의 목적함수값이 전통 LSE보다 작거나 같음을 보인다. 이는 변환을 통해 오차의 스케일을 축소함으로써 추정 효율을 높일 수 있음을 의미한다.

Jelinski‑Moranda 모델에 FNLSE를 적용하는 과정에서 두 가지 구체적 변환을 제시한다. 첫 번째는 로그 변환 H(x)=logₐ(x) (a>0, a≠1) 로, 기존 연구에서 사용된 LogLSE와 동일하다. 두 번째는 멱 변환 H(x)=x^α (α≠0) 로, 이를 powLSE라 명명한다. 멱 변환은 로그 변환을 α배 스케일링한 형태이므로, α가 데이터의 분산 구조에 맞게 조정되면 더욱 효과적인 압축 효과를 제공한다. α의 최적값은 전체 목적함수 S_H(α,β)를 최소화하는 2단계 최적화 문제로 정의되며, 실제 실험에서는 그리드 탐색과 Newton‑Raphson 결합으로 찾는다.

파라미터 추정식은 로그 변환과 멱 변환 각각에 대해 도출된다. LogLSE에서는 변환 상수 a가 결과에 영향을 주지 않으며, 식 (3.6)과 같이 로그 평균을 이용해 φ와 N을 구한다. powLSE에서는 변환 후 제곱 오차식에 대한 편미분을 통해 비선형 방정식을 얻고, Newton‑Raphson으로 반복 해결한다. 이때 가중치 행렬 W는 H′(ξ_i)² 형태로 계산되어, 관측값과 모델값 사이의 거리뿐 아니라 변환 함수의 기울기까지 반영한다.

실험에서는 6개의 공개 소프트웨어 결함 데이터셋(예: Musa, AT&T, etc.)을 대상으로 MTBF 예측을 수행한다. 평가 지표는 상대오차(RE)와 Braun 통계량이며, RE는 누적 예측 오차를 실제 값으로 정규화한 값, Braun은 예측값과 실제값 사이의 평균 제곱 오차를 변동성에 비례시킨 지표이다. 결과는 powLSE가 최적 α(데이터마다 다름)를 사용할 때 RE와 Braun 모두에서 가장 낮은 값을 기록했으며, 특히 데이터가 강한 이분산성을 보이는 경우 LSE와 MLE보다 현저히 개선된 성능을 보였다. LogLSE도 일정 수준의 개선을 보였지만, 변환 함수가 고정된 로그 형태이므로 멱 변환이 제공하는 자유도가 부족했다는 결론을 내렸다.

논문의 주요 기여는 (1) 변환 함수를 통한 비선형 최소제곱 프레임워크를 일반화한 FNLSE 개념 제시, (2) 멱 변환 기반 powLSE를 도입하여 파라미터 추정의 유연성 및 정확도 향상, (3) Jelinski‑Moranda 모델에 대한 실증적 검증을 통해 기존 MLE/LSE 대비 실용적 우수성을 입증한 점이다. 또한, 변환 함수 선택이 데이터의 통계적 특성(이분산, 비정규성)에 따라 최적화될 수 있음을 보여줌으로써, 소프트웨어 신뢰도 모델링뿐 아니라 일반 비선형 회귀 문제에도 적용 가능한 방법론을 제공한다.