LHC 이상 탐지를 위한 큐트리트 기반 양자 머신러닝

초록

본 논문은 고에너지 물리 실험에서 발생하는 비정상 이벤트를 탐지하기 위해 3레벨 양자 비트(큐트리트)를 이용한 양자 머신러닝(QML) 모델을 설계하고, 기존의 2레벨(qubit) 모델과 성능을 비교한다. 정확도, 확장성, 계산 효율성을 평가하여 차세대 대형 강입자 충돌기(HL‑LHC)에서의 데이터 처리 요구를 충족할 수 있는지 검증한다.

상세 분석

이 연구는 먼저 기존의 “One Particle‑One Qubit”(1P1Q) 인코딩 방식을 큐트리트에 맞게 확장한다. 큐트리트는 3차원 힐베르트 공간을 제공해 log₂3≈1.58 비트를 저장할 수 있어 동일한 물리 시스템으로 더 많은 정보를 압축한다. 이는 변분 양자 회로(VQC)에서 회로 깊이를 감소시키고, 게이트 수와 누적 디코히런스를 줄이는 효과를 가져온다. 저자들은 Gell‑Mann 행렬을 이용해 SU(3) 대수의 8가지 생성자를 정의하고, 이를 기반으로 회전 및 특징 매핑 연산을 설계하였다. 특히 Majorana 구면을 활용해 순수 상태와 혼합 상태를 구분하고, SO(3) 회전을 통해 모든 순수 큐트리트 상태를 생성할 수 있음을 보였다.

양자 자동인코더(QAE) 구조는 인코더와 디코더 두 변분 회로로 구성되며, 인코더는 입력 제트 데이터를 압축해 잠재 공간(latent space)으로 매핑한다. 여기서 잠재 차원은 2개의 큐트리트(또는 2개의 qubit)로 제한되어, “trash states”를 통해 이상치 여부를 판단한다. 비용 함수는 SWAP 테스트 기반의 음의 충실도이며, 자동인코더의 재구성 오류가 클수록 이상 이벤트로 간주한다.

데이터셋으로는 CMS 실험에서 공개된 2016년 제트 데이터와 대규모 시뮬레이션 JetClass를 사용하였다. 두 데이터셋 모두 PT, η, φ와 같은 운동학적 변수를 포함하며, 신호(히그스, W/Z, 탑)와 배경(QCD) 제트를 구분하는 과제를 제공한다. 저자들은 동일한 전처리와 학습 파이프라인을 적용해 큐트리트와 큐비트 모델을 직접 비교하였다.

시뮬레이션은 Pennylane의 GPU 및 Kokkos 백엔드를 활용했으며, 큐트리트 전용 디바이스(default.qutrit)를 사용해 자동 미분이 가능한 차별화된 회로 최적화를 수행했다. 결과적으로 큐트리트 기반 QAE는 qubit 기반 모델에 비해 동일한 파라미터 수에서 약 3~5% 높은 AUC(Area Under Curve)를 기록했으며, 특히 고차원 특징을 포착하는 데 유리함을 보였다. 또한 회로 깊이가 20% 이상 감소해 시뮬레이션 시간과 메모리 사용량이 크게 절감되었다.

하지만 큐트리트 게이트의 물리적 구현 오류율이 현재의 초전도 회로보다 높으며, 오류 정정 코드가 아직 초기 단계에 있다는 점이 한계로 지적된다. 저자들은 이러한 문제를 완화하기 위해 qutrit‑specific 오류 정정 스킴과 하드웨어 최적화를 제안한다. 전반적으로 연구는 큐트리트가 제공하는 높은 정보 밀도와 풍부한 연산군이 HEP 데이터의 복잡한 패턴 인식에 유리함을 실증했으며, 차세대 양자 하드웨어가 성숙한다면 HL‑LHC 수준의 엑소톤 데이터 처리에 실질적인 이점을 제공할 가능성을 제시한다.