세포형 유전 알고리즘을 활용한 인공신경망 최적화

초록

본 논문은 세포형 유전 알고리즘(CGA)을 이용해 자동으로 인공신경망(ANN) 구조를 탐색하는 방법을 제안한다. CA 기반의 위치 제약을 통해 개체 간 교배와 변이를 제한함으로써 유전적 다양성을 장기간 유지하고, 결과적으로 분류 문제에서 높은 정확도와 작은 네트워크 크기를 동시에 달성한다.

상세 분석

본 연구는 전통적인 유전 알고리즘(GA)이 전역적인 탐색 능력은 뛰어나지만, 세대가 진행될수록 해집단이 특정 영역에 집중돼 다양성이 급격히 감소하는 문제점을 지적한다. 이를 해결하기 위해 저자는 셀룰러 오토마톤(CA)의 격자 구조를 GA 개체군에 겹쳐 놓는 세포형 유전 알고리즘(CGA)을 설계하였다. 격자상의 각 셀은 하나의 개체를 보유하며, 이웃 셀과만 교배·돌연변이를 수행하도록 제한한다. 이러한 지역적 교배 메커니즘은 해집단이 격자 전역에 고르게 퍼지도록 유도하고, 특정 지역에서만 최적해가 과도하게 집중되는 현상을 방지한다. 결과적으로 탐색 초기에 다양한 구조가 동시에 시험될 수 있어 전역 최적해에 도달할 확률이 높아진다.

ANN 구조 탐색 측면에서 저자는 가중치와 편향뿐 아니라 은닉층 수, 각 층의 뉴런 수, 활성화 함수 종류까지 유전 인코딩에 포함시켰다. 유전자는 이진 혹은 정수형으로 표현되며, 변이 연산은 뉴런 수 증감, 층 추가·삭제, 활성화 함수 교체 등 구조적 변화를 초점으로 한다. 적합도 함수는 두 가지 목표를 동시에 고려한다. 첫 번째는 분류 정확도이며, 두 번째는 네트워크 파라미터 수(또는 연산량)이다. 이를 다목적 최적화 문제로 모델링하고, 가중치를 부여한 가중합 형태의 스칼라 적합도로 변환한다.

실험은 표준 데이터셋(예: UCI Iris, Wine, Breast Cancer)과 복합적인 이미지 분류 데이터(예: MNIST 변형)에서 수행되었다. CGA 기반 탐색은 동일한 연산 예산(세대 수·개체 수) 하에서 전통 GA, 진화 전략(ES), 그리고 최근의 신경망 구조 검색(NAS) 방법과 비교되었다. 결과는 CGA가 평균적으로 512% 높은 정확도를 유지하면서 파라미터 수를 3045% 감소시켰음을 보여준다. 특히, 복잡도가 높은 데이터셋에서는 초기 다양성 유지가 과적합을 억제하고, 보다 일반화된 소형 모델을 도출하는 데 기여했다.

또한, 저자는 격자 크기와 이웃 정의(4-이웃 vs 8-이웃)가 탐색 효율에 미치는 영향을 분석하였다. 작은 격자는 빠른 수렴을 유도하지만 다양성 손실 위험이 크고, 큰 격자는 탐색 폭을 넓히지만 연산 비용이 증가한다는 트레이드오프를 확인했다. 최적의 격자 파라미터는 문제 규모와 연산 자원에 따라 달라지지만, 본 논문에서는 10×10 격자와 8-이웃 구조가 대부분의 실험에서 균형 잡힌 성능을 보였다.

결론적으로, 세포형 유전 알고리즘은 전통 GA의 장점을 유지하면서 지역적 교배를 통한 다양성 보존 메커니즘을 제공한다. 이는 특히 파라미터 제약이 중요한 임베디드 시스템이나 모바일 디바이스에서 효율적인 ANN 설계에 유용하다. 향후 연구에서는 동적 격자 재구성, 다목적 최적화 기법과의 결합, 그리고 심층 신경망(Convolutional, Recurrent) 구조에 대한 확장을 제안한다.