양자 어닐링과 신경 해시 함수가 결합된 차세대 분자 생성 프레임워크

초록

본 논문은 D‑Wave 양자 어닐링 장치를 이용해 딥 생성 모델을 최적화하는 새로운 프레임워크를 제안한다. 연속‑이산 변환과 정규화를 동시에 수행하는 Neural Hash Function(NHF)을 도입해 목표 함수에 통합함으로써, 기존 클래식 모델보다 높은 유효성·약물성 지표를 보이는 분자를 자동 생성한다. 흥미롭게도 생성된 분자는 학습 데이터 자체보다도 우수한 약물성 특성을 나타낸다.

상세 분석

이 연구는 현재 딥러닝 기반 분자 생성 모델이 안고 있는 ‘약물성 저하’ 문제를 양자 어닐링과 신경 해시 함수를 결합한 새로운 최적화 전략으로 해결하고자 한다. 핵심 아이디어는 연속적인 잠재 공간(latent space)을 이산 비트 스트림으로 매핑하고, 이를 양자 어닐러에 입력해 전역 최적화를 수행하는 것이다. 이를 위해 저자들은 Neural Hash Function(NHF)을 설계했는데, NHF는 (1) 연속형 출력값을 고정 길이 이진 코드로 해시화하여 양자 비트에 적합하게 변환하고, (2) 해시 과정 자체를 정규화 항으로 활용해 모델이 과도하게 특정 패턴에 편향되지 않도록 제어한다. 이러한 이중 역할은 기존의 별도 binarization 단계와 정규화 손실을 통합함으로써 학습 효율성을 크게 높인다.

양자 어닐링은 이산 최적화 문제에 대해 전통적인 시뮬레이티드 어닐링보다 빠른 수렴과 더 넓은 탐색 범위를 제공한다는 점에서, 고차원 잠재 공간에서의 전역 최적화에 유리하다. 저자들은 D‑Wave Advantage 시스템을 이용해 NHF가 만든 이진 벡터를 QUBO 형태로 변환하고, 최소 에너지 상태를 탐색하도록 설계하였다. 이 과정에서 목표 함수는 (i) 분자 유효성(화학적 규칙 위반 최소화), (ii) 약물성 지표(QED, Lipinski 규칙 등), (iii) NHF 정규화 손실을 포함한다.

실험 결과는 두드러진 성과를 보여준다. 양자 어닐링 기반 생성 모델은 96% 이상의 유효성 비율과 0.78 이상의 평균 QED 점수를 기록했으며, 이는 동일한 아키텍처의 완전 클래식 모델(유효성 89%, QED 0.71)보다 현저히 높다. 특히, 생성된 분자 집합의 약물성 분포가 학습 데이터의 상위 5%에 해당하는 특성을 초과했으며, 이는 모델이 학습 데이터에 내재된 편향을 넘어 새로운 화학적 특성을 탐색했음을 의미한다. 또한, NHF를 통한 정규화가 과적합을 억제하고, 양자 어닐링 단계에서의 탐색 다양성을 유지하는 데 기여했다는 분석도 제시된다.

이 논문은 양자 컴퓨팅이 딥 생성 모델의 샘플링 효율성을 향상시킬 수 있음을 실증적으로 증명한다. 특히, 연속‑이산 변환을 담당하는 NHF와 목표 함수에 정규화 항을 직접 삽입하는 설계는 향후 다른 도메인(예: 재료 설계, 단백질 구조 예측)에도 적용 가능할 것으로 기대된다. 다만, 현재 양자 어닐러의 큐비트 수와 연결성 제한으로 인해 잠재 공간 차원을 크게 확장하는 데는 한계가 있으며, 이 부분은 차세대 양자 하드웨어가 보급됨에 따라 개선될 전망이다.