내부점법을 이용한 최적 실험 설계 계산

초록

본 논문은 A‑, D‑, p‑평균 등 다양한 부드러운 볼록 최적성 기준을 포함하는 최적 실험 설계 문제에 대해 내부점(IP) 방법을 제안하고, 전역 수렴성을 증명한다. 또한 해시안 행렬의 구조를 이용해 그 랭크를 명시적으로 구하고, 순간 행렬 크기가 표본 수에 비해 작을 때는 Sherman‑Morrison‑Woodbury 공식을 적용해 뉴턴 방향을 효율적으로 계산한다. 실험 결과는 기존의 Silvey 등(1999)의 곱셈 알고리즘보다 속도와 해의 품질 모두에서 우수함을 보여준다.

상세 분석

이 연구는 실험 설계 최적화에서 가장 널리 사용되는 A‑, D‑, p‑평균 기준을 일반화한 부드러운 볼록 함수군을 대상으로 한다. 이러한 기준은 설계 변수인 가중치 벡터 w∈ℝⁿ에 대해 Φ(M(w)) 형태로 표현되며, 여기서 M(w)=∑_{i=1}^n w_i x_i x_i^T는 순간 행렬이다. 논문은 먼저 Φ가 두 번 연속 미분 가능하고, 그라디언트와 해시안이 명시적으로 계산 가능함을 전제한다. 내부점(IP) 방법은 로그 장벽 함수를 도입해 제약 w_i≥0, ∑ w_i=1을 부드러운 형태로 변환하고, 중심점 경로를 따라 Newton‑step을 수행한다. 핵심 기여는 해시안 행렬 H=∇²Φ(M(w))의 구조를 분석해 그 랭크가 “설계 변수 수 – 순간 행렬 차원”이라는 간단한 식으로 표현된다는 점이다. 이 결과는 H가 저차원(예: 차원 d가 수십 이하)일 때, H를 직접 인버트하는 대신 Sherman‑Morrison‑Woodbury 공식을 적용해 O(nd²) 연산으로 뉴턴 방향을 구할 수 있게 한다. 이는 기존 곱셈 알고리즘이 O(n·d³) 정도의 복잡도를 가지는 것에 비해 큰 이점이다. 전역 수렴성 증명은 로그 장벽 파라미터 μ→0으로 갈 때, 중심점이 최적해 w*에 수렴함을 보이며, 충분히 작은 μ에 대해 충분히 큰 스텝 크기 α를 선택하면 충분히 감소하는 라인 서치를 보장한다. 실험에서는 2차원부터 10차원까지 다양한 모델을 사용해 표본 수 n을 10³10⁵까지 확대했으며, IP 방법은 평균 35배 빠른 수렴과 더 낮은 Φ값을 기록했다. 특히 p‑평균 기준에서 기존 곱셈 알고리즘이 수렴에 오래 걸리거나 지역 최적에 머무는 경우가 있었지만, IP 방법은 안정적으로 전역 최적에 도달했다. 이러한 결과는 해시안 랭크 분석과 효율적인 뉴턴 방향 계산이 실험 설계 최적화에 실질적인 가속을 제공함을 입증한다.