분자 특성 회귀 모델 정확도와 일반화 향상을 위한 서브스트럭처 대체 규칙 기반 프레임워크

초록

MolRuleLoss는 서브스트럭처‑대체‑규칙(SSR)을 손실 함수에 편미분 제약으로 삽입해 기존 분자 특성 회귀 모델의 예측 정확도와 OOD 일반화를 크게 개선한다. GEM·UniMol 등 여러 모델에 적용했을 때 RMSE가 2.6 %에서 33.3 %까지 감소했으며, 특히 활동 절벽·용융점·분자량 예측에서 눈에 띄는 향상을 보였다. SSR의 수와 품질이 성능 향상에 직접적인 영향을 미친다는 분석도 제공한다.

상세 분석

본 논문은 분자 특성 회귀(MPRM) 모델이 데이터 분포 외(Out‑of‑Distribution, OOD)에서 급격히 성능이 저하되는 문제를 해결하기 위해, 화학적 직관에 기반한 서브스트럭처‑대체‑규칙(SSR)을 손실 함수에 통합하는 MolRuleLoss 프레임워크를 제안한다. SSR은 특정 서브스트럭처를 다른 구조로 교체했을 때 물리·화학적 특성이 어떻게 변하는지를 정량화한 규칙 집합이며, 이를 모델의 편미분(∂Loss/∂output)과 연결시켜 “특성 변화의 상한”을 제약한다. 핵심 아이디어는 모델이 학습 과정에서 SSR이 제시하는 기대 변화를 따르도록 강제함으로써, 데이터에 내재된 화학적 연속성을 보존하고, 드물거나 새로운 구조에 대해서도 합리적인 예측을 수행하도록 만든다.

실험에서는 MoleculeNet의 Lipophilicity, ESOL, FreeSolv 데이터셋을 이용해 GEM 모델에 MolRuleLoss를 적용했을 때 RMSE가 각각 0.587 vs 0.660, 0.777 vs 0.798, 1.252 vs 1.877로 감소했으며, 이는 2.6 %~33.3 %의 개선율에 해당한다. SSR의 수가 많을수록, 그리고 SSR이 실제 물리‑화학 변화를 정확히 반영할수록 성능 향상이 크게 나타났다. 특히 “활동 절벽”(activity cliff)이라 불리는 구조적 변형에도 모델이 안정적인 예측을 유지했으며, 용융점 예측에서 OOD 분자에 대한 RMSE가 현저히 낮아졌다. 가장 인상적인 결과는 OOD 분자에 대한 분자량 예측에서 GEM 모델의 RMSE가 29.507에서 0.007으로 거의 완벽에 가까운 정확도로 개선된 점이다.

또한 논문은 SSR 변동 상한과 모델 오류 사이에 양의 상관관계가 존재함을 수학적으로 증명하였다. 이는 SSR이 제공하는 변동 범위가 클수록 모델이 해당 영역에서 더 큰 오차를 범할 가능성이 높으며, MolRuleLoss가 이러한 변동을 억제함으로써 오류를 감소시킨다는 논리적 근거를 제공한다.

전반적으로 MolRuleLoss는 기존 MPRM에 별도의 구조적 변경 없이 “볼트‑온” 형태로 적용 가능하며, 화학적 규칙을 손실에 직접 반영함으로써 데이터 효율성을 높이고, OOD 일반화 능력을 크게 강화한다는 점에서 AI‑지원 신약 개발 파이프라인 전반에 실용적인 가치를 제공한다.