프러스트레이션 루프를 이용한 가중치 MAX‑2‑SAT 인스턴스 생성 및 난이도 조절 방법

초록

본 논문은 양자 어닐링 분야에서 사용되는 프러스트레이션 루프 알고리즘을 확장하여, 가중치 MAX‑2‑SAT 문제를 제한볼츠만 머신(RBM) 형태로 변환하고, ‘프러스트레이션 인덱스’라는 중심 파라미터를 통해 인스턴스의 난이도를 정밀하게 조절하는 방법을 제시한다. 무작위 루프와 구조화된 루프 두 가지 생성 방식을 비교 분석하고, 특히 높은 루프 밀도에서 구조화된 루프가 더 높은 난이도를 제공함을 실험적으로 입증한다. 또한 난이도 스케일링에서 두 차례의 위상 전이(double phase transition)가 발생한다는 새로운 현상을 보고한다.

상세 분석

이 연구는 MAX‑2‑SAT 문제를 RBM 에너지 최소화 문제로 정확히 동등 변환함으로써, 기존의 SAT 기반 벤치마크와는 다른 물리‑학적 관점을 제공한다. 변환 과정은 세 단계로 구성된다. 첫째, 가중치 MAX‑2‑SAT 를 QUBO 형태로 변환하고, 둘째, QUBO 를 완전 이분 그래프 K_{n,m} 형태의 이분 QUBO 로 확장한다. 여기서 ‘페널티 함수’를 도입해 두 파티션의 변수들이 동일한 값을 갖도록 강제함으로써 원래 최적해와 동일한 해를 보장한다. 셋째, 0/1 변수를 ±1 스핀으로 변환하고, 선형 바이어스를 ‘고스트 스핀’이라는 가상의 외부 스핀으로 흡수하여 완전 이차 형태의 Ising 모델, 즉 RBM 에너지 식 E(v,h)=−∑{ij}W{ij}v_i h_j+∑_i a_i v_i+∑_j b_j h_j 로 정리한다.

핵심 난이도 조절 파라미터인 프러스트레이션 인덱스는 가중치 행렬 W 에서 부호가 뒤섞인 루프(사이클)의 비율을 의미한다. 프러스트레이션 인덱스가 0이면 모든 루프가 만족 가능한 ‘게이지 변환’에 의해 에너지 최소화가 쉬워지고, 1에 가까울수록 부정적인 사이클이 많아져 로컬 최소점이 급증한다. 논문은 무작위 루프 생성 알고리즘(random‑loop)과 구조화된 루프 생성 알고리즘(structured‑loop)을 제안한다. 무작위 알고리즘은 각 루프를 완전 무작위로 선택하고, 루프 길이와 부호를 조절해 목표 프러스트레이션 인덱스를 달성한다. 이때 루프가 겹치면서 상호 간섭을 일으키면 실제 프러스트레이션이 기대값보다 낮아지는 현상이 관찰된다. 이를 보완하기 위해 구조화된 알고리즘은 사전에 정의된 격자 혹은 클러스터 형태의 루프 패턴을 사용한다. 이러한 구조적 제약은 루프 간 교차를 최소화하고, 높은 루프 밀도에서도 목표 프러스트레이션을 정확히 구현한다. 결과적으로 구조화된 루프는 동일한 루프 밀도에서 무작위 루프보다 평균적인 인스턴스 난이도가 현저히 높다.

실험에서는 다양한 (n,m) 크기의 RBM 에 대해 인스턴스 난이도를 SAT 솔버와 양자 어닐러 시뮬레이터를 이용해 측정하였다. 난이도 지표는 최적해 탐색에 필요한 시간(또는 샘플 수)과 로컬 최소점의 개수로 정의하였다. 두 차례의 위상 전이가 발견되었다. 첫 번째 전이는 루프 밀도 ρ가 일정 임계값을 초과하면서 난이도가 급격히 상승하는 ‘밀도 전이’이며, 두 번째 전이는 프러스트레이션 인덱스 f가 특정 구간(≈0.3~0.6)에서 난이도 스케일링 지수가 변하는 ‘프러스트레이션 전이’이다. 특히 f≈0.5 부근에서 난이도는 시스템 크기 n에 대해 지수적으로 증가한다는 점이 강조된다. 이러한 현상은 프러스트레이션 인덱스가 로컬 최소점의 풍부함과 직접적인 상관관계를 가진다는 이론적 예측과 일치한다.

마지막으로, 생성된 어려운 RBM 인스턴스를 사전 학습(pre‑training) 단계에 활용하는 가능성을 논의한다. 높은 프러스트레이션을 가진 인스턴스는 초기 가중치가 복잡한 에너지 지형을 탐색하도록 강제함으로써, 실제 데이터에 대한 학습 시 더 나은 전역 최적점에 도달할 확률을 높인다. 이는 기존의 무작위 초기화 방식보다 더 효율적인 사전 학습 전략을 제공한다는 점에서 실용적 의미가 크다.