정렬 네트워크 기반 초소형 QUBO로 순열 문제 효율적 인코딩

초록

본 논문은 비교‑교환(Compare‑Exchange) 네트워크를 이용해 순열을 O(n log² n)개의 이진 변수만으로 표현하는 QUBO 모델을 제안한다. 기존의 n² 변수 필요 방식보다 변수 수와 상호작용 그래프가 크게 희소해지며, 각 순열에 대해 유일한 변수 할당을 보장해 균등 샘플링이 가능하다. 고정점, 짝수·홀수, 순열의 차수·곱·역 등 다양한 제약도 자연스럽게 추가할 수 있다.

상세 분석

이 논문의 핵심은 “불변(Oblivious) 비교‑교환 네트워크”를 QUBO 형태로 정형화한다는 점이다. 비교‑교환 게이트는 두 입력값을 비교하고 필요시 교환하는 연산으로, 입력 크기 n에 대해 고정된 순서와 구조를 가진다. 저자들은 각 게이트의 동작을 불변 관계로 정의하고, 이를 만족시키는 0‑값을 갖는 2차 다항식(다항식 표현)으로 변환한다. 여기서 중요한 기술은 고차항을 보조 변수와 페널티 항을 도입해 2차 형태로 “쿼드러타이즈”하는 과정이다. 예를 들어, k비트 정수 x와 y를 비교하는 GT 게이트는 k+1개의 보조 변수 p_i와 추가적인 2k개의 보조 변수를 사용해 총 3k+1개의 보조 변수를 필요로 한다. 이와 유사하게, 제어 스와프 게이트는 2k개의 보조 변수를 사용한다. 각 게이트마다 “균등성(Uniformity)”을 유지하도록 설계했는데, 이는 올바른 입력에 대해 보조 변수의 할당이 유일하게 결정되어 전체 QUBO 해가 순열 하나에 일대일 대응한다는 의미이다.

정리된 게이트 다항식들을 네트워크 전체에 합산하면, 전체 네트워크가 올바르게 동작할 경우 전체 QUBO 값이 0이 된다. 네트워크에 포함된 게이트 수를 m이라 하면, 전체 변수 수는 O(k·(n+m))가 된다. 여기서 k=⌈log₂n⌉는 각 정수를 표현하는 비트 수이며, 비교‑교환 네트워크는 O(n log n)개의 게이트를 갖는 알려진 설계(예: Batcher’s odd‑even merge sort)를 사용한다. 따라서 전체 변수 수는 O(n log² n)이며, 각 변수당 상호작용은 O(log n) 수준으로 매우 희소하다.

이 구조를 기반으로 저자들은 여러 순열 제약을 QUBO에 자연스럽게 삽입한다. 고정점 제약은 특정 위치에 해당하는 입력값이 그대로 출력값이 되도록 하는 비교‑교환 게이트를 추가함으로써 구현한다. 짝수·홀수(parity) 제약은 전체 비트의 합에 대한 Hamming‑weight 다항식을 이용한다. 순열의 차수(order) 제약은 순열을 반복 적용했을 때 원소가 원래 위치로 돌아오는 최소 횟수를 체크하는 추가적인 비교‑교환 레이어를 삽입해 표현한다. 또한, 순열 곱셈과 역연산을 동일한 네트워크 구조에 겹쳐서 구현함으로써, 두 순열이 서로 교환(commute)하는지 여부를 확인하는 QUBO도 구성할 수 있다.

실용적인 측면에서 가장 큰 장점은 “균등 샘플링”이다. 기존의 one‑hot(퍼뮤테이션 매트릭스) 인코딩은 해 공간이 n!에 비해 매우 중복된 변수 할당을 갖고, 제약을 만족하는 해를 균등히 뽑기 어렵다. 반면, 제안된 네트워크 기반 인코딩은 각 순열에 정확히 하나의 최소값(0) 해가 존재하므로, 양자 어닐링기나 클래식 QUBO 솔버가 해를 무작위로 샘플링하면 자연스럽게 균등한 순열 분포를 얻는다. 이는 암호학적 키 생성, 라틴 스퀘어 설계, 무작위 셔플링 등 균등 무작위 순열이 요구되는 분야에 직접적인 활용 가능성을 제공한다.

하지만 한계점도 명확히 제시한다. 그래프 기반 최적화 문제(예: TSP)와 같이 정점 간 관계를 직접적으로 표현해야 하는 경우, 정수를 비트 문자열로 변환한 뒤 비교‑교환을 적용하는 것이 비효율적이며, 추가적인 복잡도가 급증한다. 따라서 현재 방법은 순열 자체를 변수화하고 그 내부 연산을 다루는 문제에 특화된 접근법이라 할 수 있다.

전반적으로 이 논문은 “알고리즘적 구조를 수학적 최적화 모델에 직접 매핑한다”는 새로운 패러다임을 제시하며, QUBO 설계에서 변수 수와 상호작용 희소성을 동시에 최적화하는 실용적인 해법을 제공한다.