보호: 신경‑기호 결합으로 구현하는 조정 가능한 역합성 설계

초록

본 논문은 대형 언어 모델(LLM)의 역합성 생성 능력을 화학적 논리와 결합한 ‘Protect*’ 프레임워크를 제안한다. 55개 이상의 SMARTS 패턴과 40개 이상의 보호기 데이터를 활용해 자동으로 반응성을 가진 원자를 식별·보호하고, 이를 신경망 추론 과정에 하드 제약으로 삽입한다. 자동 모드와 인간‑인‑루프 모드를 병행해 복잡한 천연물(예: 에리트로마이신 B)의 합성 경로를 성공적으로 탐색했으며, 신경‑기호 혼합 접근법이 오류를 크게 감소시키고 전문가 수준의 자율성을 제공함을 입증한다.

상세 분석

Protect*는 크게 세 가지 기술적 축을 중심으로 설계되었다. 첫째, “심볼릭 레이어”는 55개의 SMARTS 기반 반응성 탐지 규칙과 40개의 보호기 정의를 데이터베이스화하여, 입력 분자에 대해 원자‑레벨의 보호 상태를 자동으로 할당한다. 이 과정은 RDKit 기반의 서브스트럭처 매칭 엔진을 활용해 O(N·M) 복잡도로 수행되며, 원자마다 고유한 canonical atom map을 부여해 후속 단계에서 일관된 식별자를 제공한다. 둘째, “신경 레이어”는 기존의 화학 전용 LLM(예: ChemGPT, RetroBERT)을 그대로 사용하면서, 토큰 임베딩에 보호 상태 토큰을 병합한다. 여기서 보호 토큰은 ‘보호됨’, ‘비보호’ 두 가지 이진 값을 갖으며, 모델이 반응 전구체를 예측할 때 보호된 원자를 무시하도록 강제한다. 이를 위해 “active state tracking” 메커니즘을 도입해, 디코딩 단계마다 현재 보호 맵을 검증하고, 보호된 원자를 포함하는 후보가 생성될 경우 즉시 차단한다. 셋째, “인간‑인‑루프 모드”는 사용자가 전략적 제약(예: 특정 보호기 사용, 단계 수 제한)을 명시적으로 입력할 수 있게 하여, 모델이 탐색하는 경로 공간을 더욱 좁힌다. 이때 제약은 Symbolic Constraint Language(SCL) 형태로 표현되며, LLM의 프롬프트에 삽입돼 조건부 생성에 직접 반영된다.

실험에서는 복잡한 천연물인 에리트로마이신 B를 대상으로 10,000개의 무작위 역합성 시나리오를 생성했다. 기존 LLM만 사용했을 때 보호되지 않은 알코올·아민 부위가 38% 이상 포함된 반면, Protect* 적용 후 이러한 오류 비율은 3% 이하로 감소했다. 또한, 인간‑인‑루프 모드에서 전문가가 지정한 보호기(예: TBDMS, Ac)와 일치하는 경로가 85% 이상 도출되었으며, 전체 합성 단계 수는 평균 12단계(±2)로 기존 자동화 도구 대비 20% 효율성을 높였다.

이러한 결과는 신경‑기호 하이브리드가 LLM의 창의적 생성 능력은 유지하면서, 화학적 타당성을 보장하는 강력한 메커니즘임을 시사한다. 특히, 보호 상태를 원자 수준에서 명시적으로 추적하고, 디코딩 시 실시간으로 제약을 적용하는 설계는 “hard constraint”를 요구하는 과학·공학 분야 전반에 적용 가능성을 열어준다. 앞으로는 보호 패턴을 동적으로 학습하거나, 다중 보호기 조합을 최적화하는 메타‑플래너와 연계해 더욱 복합적인 합성 설계 문제에 확장할 여지가 있다.