PCA 기반 무감독 합성곱 신경망 효율적 특징 학습과 높은 정확도

초록

본 논문은 필터를 주성분 분석(PCA)으로 학습하고, 풀링과 이진 해싱을 결합한 무감독 심층 합성곱 네트워크(PCN)를 제안한다. 여러 단계의 특징 추출과 비선형 출력 단계만으로 손글씨 숫자, 얼굴, 텍스처 인식에서 기존 최첨단 모델과 동등하거나 우수한 성능을 보이며, 지도 학습을 위한 역전파가 필요 없어 학습 효율이 크게 향상된다.

상세 분석

PCN은 전통적인 ConvNet의 구조를 그대로 유지하면서, 각 합성곱 층의 필터를 사전 학습된 가중치가 아니라 입력 데이터 자체에서 추출한 PCA 고유벡터로 대체한다는 점이 핵심이다. 첫 번째 단계에서는 모든 입력 이미지에서 일정 간격(k)으로 k₁×k₂ 크기의 패치를 추출하고, 각 패치의 평균을 제거한 뒤 전체 패치를 하나의 큰 행렬 X에 집계한다. X·Xᵀ에 대한 고유값 분해를 수행해 상위 L₁개의 주성분을 필터로 선택하고, 이를 이미지에 컨볼루션함으로써 L₁개의 특징 맵을 만든다. 이어서 평균 또는 최대 풀링을 적용해 해상도를 축소하고, 변형에 대한 강인성을 확보한다.

두 번째 단계에서는 첫 단계에서 얻은 L₁개의 특징 맵을 “서브셋”으로 묶고, 사전에 정의된 인덱싱 행렬에 따라 여러 서브셋을 조합해 새로운 입력 그룹을 만든다. 각 그룹에 대해 동일한 PCA 절차를 반복해 L₂개의 새로운 필터를 학습하고, 다시 컨볼루션·풀링을 수행한다. 이렇게 단계별로 저수준 특징을 조합·추상화함으로써 고수준 특징을 효율적으로 생성한다.

출력 단계에서는 각 특징 맵을 이진 해싱(binary hashing)으로 변환한다. L₂개의 이진값을 한 픽셀에서 2진수로 결합해 10진수 정수 이미지로 만든 뒤, 이미지 전체를 B개의 블록으로 나누어 정수값 히스토그램을 계산한다. 블록 히스토그램을 모두 연결하면 최종 피처 벡터가 완성되며, 이 벡터는 선형 SVM에 입력되어 분류에 사용된다.

PCN의 장점은 크게 세 가지이다. 첫째, 필터 학습에 역전파가 필요 없으므로 대규모 라벨 데이터가 없어도 학습이 가능하고, 학습 시간도 PCA 고유벡터 계산에 국한돼 기존 심층 네트워크 대비 수십 배 빠르다. 둘째, PCA 필터는 데이터의 주요 변동을 직접 포착하므로, 사전 정의된 Gabor이나 wavelet 필터보다 데이터에 특화된 특징을 자동으로 제공한다. 셋째, 풀링과 이진 해싱을 결합한 출력 설계는 차원 폭발을 방지하면서도 충분한 구분력을 유지한다.

하지만 몇 가지 한계도 존재한다. PCA 기반 필터는 선형 변환에 국한돼 비선형 패턴을 직접 모델링하기 어렵고, 필터 수와 차원 선택이 성능에 크게 영향을 미친다. 또한, 현재 구현에서는 풀링을 비활성화하거나 단순히 평균/최대 풀링만 사용해 복잡한 공간 변형에 대한 강인성이 제한될 수 있다. 마지막으로, 인덱싱 행렬에 의한 서브셋 조합 방식이 경험적으로 설계돼 최적의 조합을 찾기 위한 체계적인 방법론이 부족하다. 이러한 점들을 보완하면 PCN은 더욱 일반화된 비감독 비전 모델로 확장될 가능성이 크다.