교차검증 최소 오류율 편향 보정

본 논문은 교차검증을 이용한 모델 튜닝 과정에서 발생하는 최소 오류율 편향을 정량화하고 보정하는 방법을 제시한다. 서론에서는 교차검증이 파라미터 선택에 널리 쓰이지만, 최소 CV 오류가 실제 테스트 오류보다 낙관적으로 평가되는 현상을 지적한다. 기존 연구(Breiman et al., 1984; Efron, 2008)에서는 이 현상을 인지했으나, 추가적인 부트스트랩이나 중첩 교차검증을 요구하는 방법들은 계산 비용이 크게 증가한다. 저자들은 K‑fold 교차검증 과정에서 각 폴드별 오류 곡선 e_k(θ)를 그대로 활용해 편향을 추정한다. 구체적으로, 전체 CV 오류는 CV(θ)= (1/K)∑_{k=1}^K e_k(θ) 로 정의되고, 각 폴드의 최소 오류는 e_k(θ̂_k) 로 구한다. 편향 추정값 dBias는 전체 CV 오류와 각 폴드 최소 오류의 차이를 평균한 형태이며, 이는 dBias = (1/K)∑_{k=1}^K