변분적 재규격화와 딥러닝의 정확한 매핑
이 논문은 카다노프가 제안한 변분적 실공간 재규격화(Variational RG)와 제한 볼츠만 머신(RBM) 기반 딥러닝 구조 사이의 수학적 동등성을 증명한다. 물리계의 자유에너지 최소화와 머신러닝의 Kullback‑Leibler 발산 최소화를 동일한 변분 원리로 연결하고, 1차원·2차원 이징 모델을 통해 구체적인 매핑 과정을 시연한다.
저자: Pankaj Mehta, David J. Schwab
본 논문은 변분적 재규격화(Variational Renormalization Group, 이하 변분 RG)와 제한 볼츠만 머신(Restricted Boltzmann Machine, 이하 RBM) 기반 딥러닝 구조 사이의 정확한 수학적 대응 관계를 제시한다. 먼저 서론에서는 딥러닝이 다층 구조를 통해 데이터의 저차원 유의미한 특징을 자동으로 추출하는 과정이 물리학에서 오래전부터 사용된 재규격화군(RG)의 코스그레인 과정과 유사하다는 직관적 아이디어를 제시한다. 이어서 변분 RG의 기본 개념을 정리한다. 물리계는 N개의 이진 스핀 \(\{v_i\}\) 로 기술되며, 그 확률분포는 해밀토니안 \(H(\{v_i\})\)에 의해 정의된다. 변분 RG는 새로운 M(
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기