양자 트랜스포머로 분자 에너지 예측 혁신

초록

본 논문은 양자 회로 기반의 어텐션 메커니즘을 도입한 Molecular Quantum Transformer(MQT)를 제안한다. MQT는 분자 구성과 전자‑핵 상호작용을 토큰화하여 양자 상태로 변환하고, 변분 원리 하에 전체 포텐셜 에너지 표면을 한 모델로 학습한다. H₂, LiH, BeH₂, H₄ 등에 대한 실험에서 고전적 트랜스포머를 능가하는 정확도를 보이며, 사전학습을 통해 새로운 분자에 대한 빠른 적응이 가능함을 입증한다.

상세 분석

MQT는 기존 트랜스포머의 셀프‑어텐션을 양자 회로로 구현함으로써 두 가지 핵심 장점을 확보한다. 첫째, 입력 토큰을 전자‑핵 거리와 원자 종류 등 물리적 특성으로 구성한 뒤, 각 토큰을 n × m × dₑₘᵦ 차원의 텐서로 임베딩한다. 여기서 n은 전자 수, m은 핵 수이며, dₑₘᵦ는 임베딩 차원이다. 두번째, 양자 어텐션 모듈은 파라메트릭 양자 회로(PQC)를 이용해 query와 key를 양자 상태로 인코딩하고, 이들의 내적을 양자 중첩 및 측정을 통해 근사한다. 기존 내적 기반 어텐션이 O(N²) 복잡도를 갖는 반면, 양자 회로는 병렬적인 중첩을 활용해 복잡도를 완화시킨다. 또한, 양자 회로는 고전적인 파라미터 공간보다 훨씬 풍부한 힐베르트 공간을 탐색하므로, 전자 상관 효과를 더 자연스럽게 포착한다.

학습 과정에서는 변분 원리 ⟨ψ(θ)|H|ψ(θ)⟩를 최소화하도록 파라미터 θ를 최적화한다. 여기서 |ψ(θ)⟩는 양자 어텐션 모듈과 후처리 FC 레이어를 거쳐 얻은 양자 상태이며, Hartree‑Fock(HF) 상태와의 앰플리튜드 임베딩을 통해 초기화한다. 이 구조는 VQE와 달리 고정된 ansatz 대신 데이터‑드리븐 어텐션을 사용하므로, 다양한 분자와 구성에 대해 하나의 모델만으로 전역 최적화를 수행한다.

실험에서는 H₂, LiH, BeH₂, H₄의 전위 에너지 곡선을 학습했으며, MQT는 평균 절대 오차(MAE)와 최대 오차에서 고전 트랜스포머보다 30 % 이상 개선된 성능을 보였다. 특히, 사전학습된 MQT를 새로운 분자(예: CH₄)로 미세조정했을 때, 몇 번의 에폭만으로도 화학 정확도(1 kcal/mol) 이하의 오차를 달성했다. 이는 양자 어텐션이 분자 간 일반화 능력을 갖추었음을 의미한다.

하지만 현재 구현은 시뮬레이터 기반이며, 실제 NISQ 디바이스에서의 잡음 영향, 큐비트 수 제한, 측정 오버헤드 등이 아직 해결 과제로 남아 있다. 또한, 양자 어텐션 회로의 깊이가 증가하면 VQE와 유사한 최적화 난이도가 발생할 수 있다. 향후 연구에서는 오류 정정 기법과 하이브리드 구조(클래식‑양자 혼합 어텐션) 도입을 통해 실용성을 높이는 방향이 필요하다.