다차원 MLP 파라미터 수 검정
본 논문은 은닉층이 하나인 다차원 다층 퍼셉트론(MLP)의 파라미터 수를 검정하기 위한 새로운 통계적 방법을 제안한다. 기존의 평균제곱오차 기반 검정은 공분산 행렬이 단위행렬이 아닐 경우 복잡한 가중치 λ를 포함한 비표준 χ² 분포를 따르지만, 논문에서는 경험적 오차 공분산 행렬의 행렬식 로그를 비용함수로 사용함으로써 검정통계량이 단순히 χ²(s−q) 분포를 따르게 함을 증명한다. 또한 제안된 추정량은 기존 최소제곱 추정량보다 효율적이며, 잡음…
저자: Joseph Rynkiewicz (CES, Samos)
본 연구는 은닉층이 하나인 다층 퍼셉트론(MLP)의 파라미터 수를 검정하는 새로운 통계적 방법을 제시한다. 모델은 Yₜ=F_{W₀}(Zₜ)+εₜ 형태이며, 여기서 F_{W}는 시그모이드 활성함수를 갖는 은닉층 MLP, εₜ는 평균이 0이고 가역적인 공분산 행렬 Γ(W₀)를 갖는 잡음이다. 파라미터 W는 동일한 입력‑출력 매핑을 유지하는 유한 변환군(예: 은닉 유닛 순열·부호변환)에 대해 동치류를 형성한다. 따라서 실제 파라미터 공간은 이 군에 대한 몫공간이며, 은닉 유닛 수가 정확히 알려진 경우 모델은 식별 가능하다고 가정한다.
전통적인 검정통계량은 평균제곱오차 Vₙ(W)=∑‖Yₜ−F_W(Zₜ)‖² 를 최소화한 값의 차이를 이용한다. 이 경우 검정통계량 Sₙ=n
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기