엣지오브카오스가 강화한 양자 영감 최적화 알고리즘

초록

연속 변수 비선형 동역학 시스템을 이용한 조합 최적화 알고리즘인 시뮬레이티드 바이프케이션(SB)을 일반화해 개별 분기 파라미터를 비선형적으로 제어한 GSB를 제안한다. GSB는 대규모 이징·맥스컷 문제에서 거의 100% 성공률을 달성하고, 2,000 변수 문제를 10 ms 안에 해결한다. 성공률이 급격히 상승하는 구간이 혼돈의 가장자리(edge of chaos)와 일치함을 실험적으로 확인했으며, 이는 동역학 기반 최적화에 혼돈 활용이 유리함을 시사한다.

상세 분석

본 논문은 물리‑영감 최적화 기법 중 연속 변수 비선형 동역학을 이용한 시뮬레이티드 바이프케이션(SB)의 한계를 극복하고자, 기존의 단일 전역 분기 파라미터 p(t)를 각 진동자 i마다 독립적인 p_i(t)로 확장한 Generalized Ballistic Simulated Bifurcation(GBSB)을 설계하였다. 핵심 아이디어는 Eq.(7)에서 정의된 비선형 제어 항 A·(1−x_i^2)·p_i(t) / (M−m) 를 도입함으로써, 진동자가 벽(x_i=±1)에 과도히 붙어 지역 최소점에 머무는 현상을 억제하고, 전역 최소점 탐색을 촉진한다. 이 제어는 A=0이면 기존 SB와 동일하고, A>0이면 각 진동자의 분기 속도가 위치에 따라 가변적으로 감소한다는 물리적 의미를 갖는다.

실험에서는 K2000(2,000 스핀 전부 연결 맥스컷)과 700‑스핀 전부 연결 이징, 그리고 G‑set(희소 연결) 등 다양한 대규모 인스턴스를 대상으로 성공 확률 P_S 를 측정하였다. 파라미터 M(시간 스텝 수)와 A(비선형 제어 강도)를 적절히 조정하면 K2000에서 거의 100% 성공률을 얻었으며, 700‑스핀에서는 90% 이상, G‑set 일부에서도 80% 이상을 달성했다. 특히 성공률이 급격히 상승하는 구간이 A가 일정 임계값을 초과하면서 δ(t_M)≈1/√2에 수렴하는 혼돈 영역과 일치함을 확인하였다. 여기서 δ는 두 초기 조건이 미세하게 차이 나는 두 궤적 사이의 정규화 거리이며, δ≈1/√2는 상태가 완전히 무작위(±1)로 퍼진 혼돈을 의미한다.

혼돈의 가장자리(edge of chaos)에서 성공률이 최고가 되는 현상은 기존 SA와 같은 무작위 노이즈 기반 탐색과는 근본적으로 다르다. SA는 온도 스케줄링에 의존해 전역 탐색을 수행하지만, GSB는 동역학 자체가 약한 혼돈을 유도해 지역 최소에 갇히는 것을 방지한다. 또한, 시간 스텝 Δt를 변화시켜도 P_S와 δ(t_M)의 패턴이 크게 변하지 않아, 이 현상이 수치적 이산화 오류가 아니라 연속 Hamiltonian 시스템의 본질적 특성임을 입증한다.

하드웨어 구현 측면에서는 각 p_i(t)가 독립적으로 업데이트되므로 FPGA와 같은 대규모 병렬 아키텍처에 최적화될 수 있다. 저자들은 2,048‑스핀 GSB 머신을 FPGA에 구현해 10 ms 내에 최적해를 찾는 성과를 보였으며, 이는 기존 SB 기반 FPGA 머신(1.3 s)보다 두 자릿수 빠른 속도다.

이 논문의 주요 공헌은 (1) 개별 비선형 분기 제어를 통한 SB의 정확도 향상, (2) 성공률 급증이 혼돈의 가장자리와 직접 연관됨을 실험적으로 입증, (3) 대규모 병렬 구현 가능성을 보인 GSB 기반 하드웨어 설계다. 향후 연구는 A와 M의 최적 스케줄링 이론화, 다른 종류의 비선형 제어(예: 로그·지수형) 적용, 그리고 양자 시뮬레이션과의 비교를 통해 물리‑영감 최적화의 범위를 넓히는 방향으로 진행될 수 있다.