유전 알고리즘의 새로운 작동 원리 : 유전클리크 고정 가설

초록

**
본 논문은 단순 유전 알고리즘(SGA)이 ‘계단 함수’라 불리는 특수 적합도 함수에서 소규모 공동 적응 유전자 집합(유전클리크)을 반복적으로 고정시켜 전체 적합도를 서서히 상승시킬 수 있음을 보인다. 이를 기반으로 ‘유전클리크 고정 가설’을 제안하고, 클램핑(clamping)이라는 간단한 메커니즘을 도입해 대규모 무작위 MAX‑3‑SAT 문제에서 성능이 크게 향상되는 실험적 증거를 제시한다.

**

상세 분석

**
이 논문은 기존의 빌딩 블록 가설(Building Block Hypothesis)이 설명하지 못하는 두 가지 현상, 즉 균일 교차(uniform crossover)의 뛰어난 효율성과 로열 로드(Royal Road) 함수에서의 이상 행동을 지적한다. 저자들은 이를 해결하기 위해 ‘유전클리크(genoclique)’라는 개념을 도입한다. 유전클리크는 ‘공동 적응(co‑adapted)’된 작은 유전자 집합으로, 개별 유전자는 평균 이하의 적합도를 가질 수 있지만, 전체가 결합될 때는 평균보다 높은 적합도를 만든다.

핵심 아이디어는 ‘창조적 고정(creative fixation)’이다. SGA가 일정 확률로 이러한 유전클리크를 집단 내에 고정시키면, 전체 인구의 평균 적합도가 미세하게 상승한다. 고정된 유전클리크는 문제 공간의 표현을 변형시켜 새로운 유전클리크가 드러날 가능성을 만든다. 이 과정을 반복하면, 초기에는 신호가 잡음에 묻혀 탐지하기 어려웠던 복합 적합도 구조도 점진적으로 드러나며, 결국 전역 최적에 근접할 수 있다.

논문은 이를 수학적으로 정형화하기 위해 ‘계단 함수(staircase function)’라는 적합도 모델을 정의한다. 계단 함수는 h 단계, 각 단계는 o 개의 비트(유전자)로 구성되며, 각 단계가 만족될 때마다 적합도가 δ 만큼 증가하고, 만족되지 않으면 감소한다. 이때 σ 는 적합도 평가에 가해지는 가우시안 잡음이다. 계단 함수는 ‘프랙탈 주소 체계(fractal addressing system)’를 이용해 2‑차원 시각화가 가능하도록 설계되었으며, 적절한 주소 체계 선택에 따라 단계 구조가 명확히 보이거나 전혀 보이지 않을 수 있음을 보여준다. 이는 실제 문제에서 적합도 구조를 어떻게 ‘보는가’가 알고리즘 설계에 결정적 영향을 미친다는 점을 강조한다.

또한, 저자들은 ‘클램핑(clamping)’이라는 간단한 메커니즘을 제안한다. 클램핑은 특정 비트가 일정 세대 이상 변하지 않을 경우 그 비트를 고정시켜 교차와 변이를 방지함으로써, 이미 고정된 유전클리크가 다시 파괴되는 것을 막는다. 실험에서는 MAX‑3‑SAT 인스턴스(변수 수 수천, 절댓값이 큰 클라우드)에서 UGA(Uniform‑crossover GA)에 클램핑을 적용했을 때, 수십 배에 달하는 성공률 향상과 최적 근접 해의 품질 개선을 관찰했다.

이론적·실험적 결과를 종합하면, 유전클리크 고정 가설은 ‘소규모 공동 적응 집합의 반복적 고정’이라는 메커니즘을 통해 SGA가 ‘서브리니어(sublinear) 계산 능력’을 발휘하고, 복잡한 적합도 지형에서도 효율적으로 탐색할 수 있음을 설명한다. 빌딩 블록 가설이 ‘큰 적합도 블록이 초기부터 존재한다’는 전제에 의존하는 반면, 유전클리크 가설은 ‘작은 신호가 누적되어 큰 신호가 된다’는 점에서 보다 일반적이며, 특히 균일 교차와 같은 비편향 연산자에 자연스럽게 부합한다.

하지만 몇 가지 한계도 존재한다. 첫째, 계단 함수와 같은 인공적인 적합도 모델에 대한 의존도가 높아 실제 문제에 대한 직접적인 적용 가능성을 검증하려면 더 다양한 실험이 필요하다. 둘째, 클램핑 파라미터(고정 기준 세대 수 등)의 선택이 결과에 민감하게 작용할 수 있어, 자동화된 파라미터 튜닝 방법이 요구된다. 셋째, 유전클리크가 실제 문제에서 얼마나 자주 발생하는지, 그리고 그 구조가 어떻게 파악될 수 있는지에 대한 이론적 분석이 아직 부족하다.

전반적으로 이 논문은 ‘유전클리크 고정’이라는 새로운 시각을 제시함으로써, 유전 알고리즘의 적응 메커니즘을 재해석하고, 빌딩 블록 가설의 한계를 보완하려는 중요한 시도라 할 수 있다.

**