경계 진화 알고리즘을 이용한 SAT 해결 강화

초록

본 논문은 하위와 상위 레벨의 교차·돌연변이를 동시에 고려한 ‘경계 진화 알고리즘(BEA)’을 제안한다. 시뮬레이션 어닐링 기반의 교차·돌연변이 연산자와 최적 개체 보존을 위한 고레벨 선택 연산자를 설계하고, 이를 계층적 유전 알고리즘에 적용하였다. SAT 문제에 대한 실험 결과, 기존의 전통적 유전 알고리즘 및 기존 계층적 유전 알고리즘에 비해 성공률과 수렴 속도가 크게 향상됨을 확인하였다.

상세 분석

본 연구는 진화 알고리즘에서 “경계”라는 개념을 명시적으로 모델링한다는 점에서 독창적이다. 저자들은 종족 간 경계에서 발생하는 교차와 변이가 전체 집단의 진화로 이어지는 메커니즘을 생물학적 비유를 통해 설명하고, 이를 수학적으로 ‘경계 탄성(boundary elasticity)’이라는 개념으로 정의한다. 이때, 하위 레벨(개별 서브‑인구)과 상위 레벨(전체 인구)의 두 경계에서 동시에 연산을 수행하도록 설계함으로써, 전통적인 계층적 유전 알고리즘이 겪는 ‘최적 개체 손실’과 ‘발산(divergence)’ 문제를 완화한다.

핵심 기술은 두 가지이다. 첫째, 시뮬레이션 어닐링을 차용한 교차·돌연변이 연산자이다. 교차 후 생성된 두 자식의 적합도가 부모보다 낮을 경우, 온도 T에 비례한 확률 exp(−Δf/T)로 교차를 허용한다. 이는 전통적인 무조건적인 교차와 달리 탐색 공간을 보다 체계적으로 확장하면서도, 나쁜 해가 무조건 버려지는 것을 방지한다. 둘째, 고레벨 선택 연산자는 각 서브‑인구의 평균 적합도뿐 아니라 최적 개체의 적합도 fg를 가중치 β·fg + α·ri 형태로 결합한다. β와 α를 0~1 사이에서 조정함으로써 최적 개체가 높은 선택 확률을 유지하도록 설계했으며, 이는 ‘최적 개체 보존’이라는 목표와 직접 연결된다.

실험 설계는 SAT‑CNF 인스턴스를 4가지 규모(변수 50430, 절클 2152855)로 구성하고, 각 인스턴스를 10회 반복 실행하였다. 비교 대상은 (1) 전통적 계층적 유전 알고리즘(HGA), (2) 최적 개체 기반 고레벨 연산자를 추가한 변형(BIHGA)이며, 제안 알고리즘(BEA)은 이 두 모델을 모두 능가했다. 특히, 성공률이 100%에 근접하고 평균 진화 단계가 크게 감소한 점은 시뮬레이션 어닐링 기반 연산이 탐색 효율을 크게 높였음을 시사한다. 또한, 하위·상위 레벨 모두에서 동일한 온도 감소 스케줄(냉각 계수 0.95)을 적용함으로써 전체 인구가 일관된 ‘열적’ 압력을 받게 하여 수렴 속도를 가속화했다.

한계점으로는 실험이 제한된 SAT 인스턴스와 비교 알고리즘에 국한되었으며, 파라미터(온도 초기값, 냉각 비율, α·β) 민감도 분석이 부족하다는 점이다. 또한, 제안 연산이 실제 대규모 NP‑Complete 문제(예: 10⁴ 변수 이상)에서 어떻게 확장되는지는 추가 검증이 필요하다. 그럼에도 불구하고, ‘경계 탄성’이라는 새로운 설계 원칙을 도입하고, 어닐링 기반 연산을 계층적 구조에 통합한 시도는 진화 알고리즘 연구에 의미 있는 방향성을 제공한다.