목표 함수에 맞춘 기울기 각도 기반 무작위 파라미터 생성으로 피드포워드 신경망 학습 향상

본 논문은 단일 은닉층 피드포워드 신경망의 무작위 학습에서, 가중치와 편향을 고정 구간에서 무작위로 뽑는 기존 방식 대신, 은닉 뉴런의 시그모이드 활성화 함수의 기울기 각도를 목표 함수의 복잡도에 맞춰 선택하고, 이를 무작위 회전·이동시켜 입력 공간에 고르게 배치하는 새로운 파라미터 생성 방법을 제안한다. 1차원 및 다차원 실험을 통해 제안 방법이 기존

저자: Grzegorz Dudek