다중목표 진화 설계로 비선형 광학 물질 개발

초록

본 논문은 비선형 광학(NLO) 물질의 설계를 위해 진화 알고리즘을 활용한 다중목표 최적화 연구를 수행한다. 첫 번째와 두 번째 고차극성(β/γ) 비율을 최대화하고, HOMO‑LUMO 간격과 선형 편극성을 목표 범위에 맞추며, 원자당 에너지를 최소화하는 네 가지 목표를 동시에 고려한다. SMILES 문자열을 유전자로 사용하고 양자화학 계산으로 물성값을 평가한다. NSGA‑II, MAP‑Elites, MOME, 단일목표 (μ+λ) EA, 시뮬레이션 어닐링을 비교한 결과, NSGA‑II가 전반적인 성능이 우수했지만 MOME는 탐색 다양성에서 뛰어나 전역 하이퍼볼륨과 MOQD 점수가 높았다.

상세 분석

이 연구는 비선형 광학 물질 설계라는 고차원, 고비용 최적화 문제에 다중목표 진화 알고리즘(MOEA)과 품질‑다양성(QD) 접근법을 동시에 적용한 최초 사례 중 하나로 평가될 수 있다. 먼저, 목표 함수들을 명확히 정의하였다. β/γ 비율은 NLO 효율을 직접적으로 나타내는 핵심 지표이며, 높은 비율은 강한 1차 비선형성에 비해 2차 비선형성 손실이 적음을 의미한다. HOMO‑LUMO 간격은 전자 전이 에너지와 광학 투과성을 조절하는 데 사용되며, 특정 범위 내에 있어야 실용적인 파장대에서 작동한다. 선형 편극성(α)은 물질의 전반적인 전자 구름 변형성을 나타내어, 높은 α는 전자 구름이 쉽게 변형되어 NLO 응답을 강화시킨다. 마지막으로 원자당 에너지(E/atom)는 합성 가능성과 열적 안정성을 반영한다. 이러한 목표는 서로 상충할 수 있어, 전통적인 단일목표 최적화로는 만족시키기 어렵다.

알고리즘 구현 측면에서, 분자를 SMILES 문자열로 인코딩하고, 변이 연산으로는 문자 삽입·삭제·교체, 그리고 교차 연산으로는 문자열 조각 교환을 적용하였다. 이는 화학적 유효성을 보장하기 위해 RDKit 기반의 필터링 절차와 결합되었으며, 무효 분자는 즉시 폐기한다. 물성 평가는 B3LYP/6‑31G(d) 수준의 DFT 계산을 자동화 파이프라인으로 수행했으며, 계산 비용을 줄이기 위해 사전 학습된 그래프 신경망(GNN) 모델을 보조 예측기로 활용, 후보군을 사전 선별하였다.

비교된 알고리즘 중 NSGA‑II는 비지배 정렬과 군집 거리 기반 선택 메커니즘으로, 각 세대마다 파레토 전선을 빠르게 수렴시켰다. 결과적으로 β/γ 비율과 HOMO‑LUMO 목표에서 최고 점수를 기록했으며, 전반적인 파레토 프론트의 밀도가 높았다. 반면 MAP‑Elites와 MOME는 측정 공간을 원자 수와 결합 수(특히 단일·이중·삼중 결합 비율)로 정의하고, 각 셀에 최적 해를 저장하는 아카이브 방식을 채택했다. 이로 인해 탐색 다양성이 크게 향상되어, 기존 방법이 놓쳤던 비정형 구조(예: 비공유 전자 고리, 비대칭 다중 결합 체인)를 발견했다. 특히 MOME는 다중 아카이브와 멀티‑오프스프링 전략을 통해 전역 하이퍼볼륨을 가장 크게 확보했으며, MOQD(Mean Orthogonal Quality Diversity) 점수에서도 우수했다. 단일목표 (μ+λ) EA와 시뮬레이션 어닐링은 계산 효율성에서는 장점이 있었지만, 다중목표 간 균형을 맞추는 데 한계가 있었다.

실험 결과는 각 방법의 강점과 약점을 명확히 보여준다. NSGA‑II는 고품질 솔루션을 빠르게 도출하지만, 탐색 범위가 제한적이다. MOME는 탐색 폭이 넓어 새로운 화학적 아이디어를 제공하지만, 수렴 속도가 다소 느릴 수 있다. MAP‑Elites는 아카이브 관리가 복잡하고 메모리 요구량이 크다. 따라서 실제 연구에서는 목적에 따라 하이브리드 전략을 채택하는 것이 바람직하다. 예를 들어, 초기 단계에서는 MOME로 넓은 탐색을 수행하고, 후반부에 NSGA‑II를 적용해 파레토 전선을 정밀하게 다듬는 방식이 효율적일 것이다.

또한, 본 연구는 진화 알고리즘이 화학 설계에 적용될 때 반드시 고려해야 할 실용적 이슈들을 제시한다. 첫째, 화학적 유효성 검증 비용이 높아 사전 예측 모델과 결합한 하이브리드 평가가 필요하다. 둘째, 다중목표 간 상충 관계를 시각화하고, 의사결정자가 선호하는 목표 가중치를 동적으로 조정할 수 있는 인터페이스가 요구된다. 셋째, 아카이브 기반 QD 방법은 구조적 다양성을 보장하지만, 저장된 분자들의 실제 합성 가능성을 평가하는 추가적인 실험적 검증 단계가 필수적이다. 이러한 점들을 고려하면, 진화 기반 분자 설계는 전통적인 고전적 최적화보다 더 풍부한 설계 공간을 제공하며, 차세대 NLO 물질 개발에 강력한 도구가 될 수 있다.