정지형태 찾기 위한 메모식·정확 하이브리드 알고리즘

1. 서론 콘웨이의 ‘생명 게임’은 간단한 이웃 규칙에도 불구하고 복잡한 패턴을 생성하는 셀룰러 오토마타로, 다양한 학문 분야에서 연구 대상이 된다. 그 중에서도 ‘정지형태(still life)’는 시간이 지나도 변하지 않는 보드 구성을 의미하며, 최대 밀도 정지형태 문제(MDSLP)는 n × n 격자에서 살아있는 셀 비율을 최대로 하는 정지형태를 찾는 최적화 문제이다. 이 문제는 무한 격자에서는 밀도 ½이 최적임이 알려졌지만, 유한 격자에서는 정확한 해가 알려지지 않아 다양한 최적화 기법이 적용돼 왔다. 기존 연구는 정수 계획(IP), 제약 프로그래밍(CP), 버킷 소거(BE) 등 정확 기법과 하이브리드 접근법을 사용했으며, n = 15 정도까지는 최적 해를 구했지만, 메모리와 시간 요구량이 급증해 규모 확대에 한계가 있었다. 2. 사전 지식 논문은 세 가지 핵심 기법을 소개한다. (a) Beam Search(BS): BB(Branch‑and‑Bound)의 휴리스틱 변형으로, 일정한 빔 폭(k)만큼의 부분 해를 동시에 확장하고, 하한을 이용해 비유망한 경로를 가지치기한다. (b) Memetic Algorithm(MA): 진화 알고리즘에 지역 탐색(Tabu Search)을 결합한 메타휴리스틱으로, 개체가 단순히 무작위 변이를 거치는 것이 아니라 문제 특화된 로컬 최적화를 수행한다. (c) Weighted CSP와 Bucket Elimination(BE): 변수와 비용 함수를 이용해 WCSP를 모델링하고, 변수 순서에 따라 비용을 축적하며 정확히 최적 해를 구하는 완전 탐색 기법이다. 3. MDSLP의 WCSP 모델링 및 BE 적용 격자 각 셀을 0‑1 변수로 두고, 8방향 이웃에 대한 생존·탄생·사망 규칙을 비용 함수로 변환한다. BE는 변수 순서에 따라 ‘버킷’에 비용을 모아 차례대로 소거하면서 최적 비용을 계산한다. 하지만 전체 변수 수가 n²이므로 메모리 요구량이 O(d^w) (d는 도메인 크기, w는 트리폭)로 급증한다. 4. BE 기반 재조합 연산자를 이용한 MA 설계 전통적인 교차 연산은 부모 해를 무작위로 섞어 자식을 생성하지만, BE를 재조합 연산자로 활용하면 부모들의 제약 정보를 완전 보존하면서 최적 자식을 만들 수 있다. 구체적으로, 부모 집합을 입력으로 받아 각 변수에 대해 가능한 값 중 최소 비용을 선택한다. 이 과정은 BE와 동일한 연산이지만, 부모 해가 이미 부분적으로 제약을 만족하므로 탐색 공간이 크게 축소된다. MA는 초기 개체를 무작위 보드로 생성하고, 탭루 서치로 로컬 최적화를 수행한 뒤, BE‑재조합을 통해 새로운 개체를 만든다. 5. 다단계 하이브리드: BS‑MA‑BE 및 MB 통합 MA와 BE를 단일 레벨에서 결합하는 것에 더해, BS를 상위 레벨에 배치한다. BS는 현재 부분 해에 대한 하한을 빠르게 계산해 비유망한 경로를 제거하고, 주기적으로 ‘유망한’ 부분 해를 MA에게 전달한다. MA는 전달받은 부분 해를 초기 개체로 삼아 전역 탐색을 진행한다. 또한, 미니‑버킷(MB) 기법을 도입해 BE가 요구하는 메모리를 제한된 버킷으로 근사한다. MB는 하한을 제공하면서도 메모리 사용량을 크게 줄여, BS 단계에서 더 깊은 탐색이 가능하도록 돕는다. 6. 실험 설계 및 파라미터 분석 - 빔 폭(k): 5, 10, 20 등 다양한 값 실험 - 부모 수(p): 2~5명까지 다중 부모 재조합 테스트 - 탭루 서치 길이 및 반복 횟수 - 미니‑버킷 버킷 크기(b): 2~4 민감도 분석 결과, 빔 폭이 10~15 사이에서 가장 좋은 균형을 보였으며, 다중 부모 재조합(p ≥ 3)이 단일 부모 교차보다 평균 12 % 정도 성능을 향상시켰다. 변수 클러스터링은 오히려 탐색 효율을 감소시켰다. 7. 실험 결과 표 1에 제시된 기존 방법과 비교했을 때, 제안된 BS‑MA‑MB 하이브리드는: - n = 12~20 범위에서 모두 최적 해를 찾음 - 평균 실행 시간은 기존 BE(≈10⁵ s) 대비 30‑45 % 감소 - n = 20 인스턴스에서 1.2 × 10⁴ s 이하로 해결 - n = 30, 35, 40 대형 인스턴스에 대해서는 현재 알려진 최선 해보다 높은 밀도(또는 동일)를 달성, 최적 여부는 미확인 이러한 결과는 BE‑재조합이 정확성을 유지하면서도 탐색 공간을 크게 축소하고, BS와 MB가 효과적인 가지치기와 하한 제공을 통해 전체 알고리즘을 가속화한다는 것을 입증한다. 8. 결론 및 향후 연구 본 논문은 BE를 단순한 완전 탐색이 아니라 재조합 연산자로 재해석하고, 이를 메모식 프레임워크와 다단계 BS·MB 하이브리드에 통합함으로써 MDSLP와 같은 고차원 가중 제약 최적화 문제에 대해 정확도와 효율성을 동시에 달성하는 새로운 접근법을 제시한다. 향후 연구로는 (a) 동적 변수 순서 최적화, (b) GPU 기반 병렬 BE 연산, (c) 다른 WCSP 기반 문제(예: 스도쿠, 배치 문제)로의 적용 가능성을 탐색할 예정이다.