진화 알고리즘을 활용한 메쉬 번호 매김 최적화

초록

본 논문은 유한요소법(FEM)에서 계산 효율을 좌우하는 메쉬 노드 순서를 진화 알고리즘으로 개선하려는 초기 연구이다. 기존 상용 FEM 소프트웨어에서 널리 쓰이는 Gibb’s 방법보다 12%~20% 정도의 대역폭 감소를 달성했으며, 교차 연산자는 효과가 없고, 문제 특화 변이 연산자는 선택 방식과 복합적인 상호작용을 보인다는 점을 보고한다.

상세 분석

메쉬 번호 매김은 FEM 해석에서 행렬 대역폭(bandwidth)을 최소화함으로써 메모리 사용량과 연산 시간을 크게 줄이는 핵심 전처리 단계이다. 전통적으로 Gibb’s 방법과 같은 휴리스틱이 표준으로 채택되어 왔지만, 최적화 문제 자체가 NP‑hard에 해당하므로 전역 최적해를 찾기 어렵다. 본 연구는 이러한 한계를 극복하고자 유전 알고리즘(Genetic Algorithm, GA)을 적용하였다. 개체는 노드 순열을 직접 인코딩한 형태이며, 적합도 함수는 대역폭을 직접 계산한 뒤 최소화 방향으로 설계되었다. 초기 실험에서는 1545노드와 5453노드 두 개의 실제 메쉬를 사용했으며, 각각 30세대, 50세대까지 진행하였다.

교차 연산에 관해서는 일반적인 순열 교차(PMX, OX)와 문제 특화 교차(인접 교환 기반)를 모두 시험했지만, 대역폭 감소 효과가 미미하거나 오히려 악화되는 경우가 빈번했다. 이는 메쉬 구조가 공간적 인접성을 강하게 유지해야 하는 제약과, 순열 교차가 이러한 인접성을 파괴하기 쉬운 특성 때문으로 해석된다. 반면 변이 연산은 두 가지 접근을 시도하였다. 첫 번째는 단순한 인접 노드 교환이며, 두 번째는 ‘노드 이동’ 연산으로, 하나의 노드를 임의 위치로 옮겨 전체 순열을 재구성한다. 특히 두 번째 변이는 대역폭을 급격히 감소시키는 경우가 관찰되었으며, 선택 압력(selection pressure)과 결합했을 때 비선형적인 시너지 효과를 보였다.

선택 방식에서는 룰렛 휠 선택과 토너먼트 선택을 비교했으며, 토너먼트 선택이 변이 연산과 결합될 때 더 안정적인 수렴을 보여주었다. 흥미롭게도, 토너먼트 선택과 변이 연산을 동시에 적용했을 때 초기 세대에서 급격한 적합도 변동이 발생했으며, 이는 ‘다중 피크’ 탐색 현상으로 해석된다. 즉, 변이가 새로운 지역 최적해를 탐색하도록 유도하지만, 선택 압력이 강하면 이들 해가 빠르게 사라지는 구조적 특성이 존재한다.

하이브리드 전략으로는 GA와 지역 탐색(local search)인 2‑opt을 결합했지만, 실험 결과는 기대에 미치지 못했다. 이는 메쉬 번호 매김 문제의 탐색 공간이 매우 고차원이며, 단순 2‑opt이 충분히 깊은 지역 최적에 도달하지 못하기 때문이다. 향후에는 시뮬레이티드 어닐링, tabu search 등과의 복합 전략을 검토할 필요가 있다.

전체적으로 본 연구는 진화 알고리즘이 기존 휴리스틱을 능가할 수 있음을 실증했으며, 특히 변이 연산의 설계와 선택 메커니즘 간의 상호작용이 성능에 결정적 영향을 미친다는 중요한 교훈을 제공한다. 향후 연구에서는 변이 연산을 메쉬의 기하학적 특성(예: 요소 연결도, 경계 조건)과 연계한 적응형 설계와, 다중 목표(대역폭·연산 시간·메모리 사용) 최적화를 동시에 고려하는 멀티오브젝티브 EA를 탐색하는 것이 유망하다.