딥쿼크: 인공신경망 기반 다중쿼크 결합 상태 계산의 새로운 패러다임

초록

딥쿼크(DeepQuark)는 심층 신경망을 이용한 변분 몬테카를로(VMC) 방법을 다중쿼크 시스템에 최초 적용한 연구이다. 색‑스핀‑동등성(색‑스핀‑아이소스핀) 기저를 직접 인코딩하고, 거리와 좌표를 입력으로 하는 네 층 완전 연결 네트워크를 설계해 색 구속과 강한 상관관계를 효율적으로 다룬다. 핵, 이중·전중 테트라쿼크, 트리플 중성 파엔타쿼크 등 다양한 사례에서 기존 가우시안 전개법(GEM)·확산 몬테카를로(DMC)와 비교해 동일하거나 더 낮은 변분 에너지를 얻었으며, 특히 플럭스‑튜브 형태의 3‑체 구속을 손쉽게 구현했다. 결과는 실험적 탐색을 촉구하고, 향후 더 큰 다중쿼크 시스템 및 비두체 구속 메커니즘 연구에 유망함을 시사한다.

상세 분석

본 논문은 비상대론적 알루미늄 모델(AL1)을 기반으로 한 다중쿼크 해밀토니안을 정의하고, 기존의 전통적 방법이 직면한 ‘지수적 기저 수 증가’와 ‘색 자유도에 의한 복잡성’ 문제를 딥러닝으로 해결한다는 점에서 혁신적이다. 핵심은 색‑스핀‑동등성(색‑스핀‑아이소스핀) 기저를 표준 벡터 α로 매핑하고, 이를 신경망 입력에 포함시켜 물리적 대칭성을 자동으로 만족하도록 설계한 점이다. 이렇게 하면 파동함수는 자동으로 색 싱글렛, 지정된 총 스핀 S, 아이소스핀 I, 그리고 파리티 π를 갖는 형태가 되며, 별도의 항등 연산자나 대칭 보정 없이도 페르미-디랙 통계와 파리티 투영을 적용할 수 있다.

공간 자유도는 각 쿼크의 좌표 r_i와 쿼크 간 거리 |r_i−r_j|를 추가 입력으로 사용한다. 거리 정보를 포함시키면 짧은 거리에서의 색 전하 쿠롱 상호작용에 의해 발생하는 파동함수의 급격한 변화를(‘cusps’) 효과적으로 포착한다. 네 개의 완전 연결 은닉층을 tanh 활성화 함수와 함께 사용해 비선형성을 충분히 확보했으며, 파라미터 초기화는 무작위로 시작해 변분 원리를 통해 에너지 기대값을 최소화한다. 초기 파동함수의 수렴을 가속화하기 위해 Gaussian 형태의 경계 팩터 Q=exp(−r_ij²/b²) (b≈2–4 fm)를 곱해 물리적 범위 안에 파동함수를 제한한다.

알고리즘적 측면에서 Monte‑Carlo 샘플링을 이용해 에너지와 그라디언트를 추정하고, Stochastic Gradient Descent 혹은 Adam과 같은 최적화기로 파라미터를 업데이트한다. 이때 통계적 오차는 0.1 MeV 이하로 억제돼 모델 자체의 불확실성보다 무시할 수 있다. 특히, 3‑체 플럭스‑튜브 구속 V_ft=σ L_min을 직접 샘플링해 계산할 수 있는데, 이는 전통적인 기저 전개법에서는 계산 비용이 급증하는 부분이다.

성능 검증으로는 (i) 전자‑양전자·양전자·양전자 시스템(Ps, Ps⁻, Ps₂)에서 0.1 % 이하 오차, (ii) 핵(N)에서 GEM·DMC와 거의 일치하는 에너지, (iii) 이중 중성( T_cc, T_bb )와 전중( T_4c, T_4b ) 테트라쿼크에서 GEM 대비 약 1 MeV 낮은 변분 에너지, (iv) 트리플 중성 파엔타쿼크( QQq q \bar Q )에서 새로운 약하게 결합된 분자 상태 P_cc\bar c(5715)와 그 바텀 파트너 P_bb\bar b(15569)를 예측한다. 특히 T_cc는 χ_{\bar3}⊗3 색 구성과 χ_{6}⊗\bar6 구성이 혼합된 형태로 자연스럽게 수렴했으며, T_bb는 χ_{\bar3}⊗3이 지배적이었다. 전중 테트라쿼크에서는 결합 상태가 존재하지 않음이 확인돼, 실험에서 관측된 T_4c 공명이 주로 공명 상태임을 시사한다.

전반적으로 딥쿼크는 (1) 색·스핀·동등성 대칭을 네트워크에 직접 인코딩해 대칭 위반 위험을 없앴고, (2) 복잡한 다체 구속(플럭스‑튜브, 3‑체 상호작용)을 Monte‑Carlo 적분으로 손쉽게 포함시켰으며, (3) 변분 원리를 통해 ‘바이어스 없는’ 파동함수를 얻어 다양한 물리적 구조(분자형·컴팩트형)를 자동으로 구분한다는 점에서 기존 GEM·DMC보다 확연히 우수하다. 향후 더 많은 쿼크와 다양한 색 구성을 가진 시스템(예: 6‑쿼크, 8‑쿼크) 및 실시간 동역학(시간‑발전 VMC)에도 확장 가능성이 크다.