구형 포장 상한을 위한 AI 기반 모델‑기반 탐색

📝 Abstract

Sphere packing, Hilbert’s eighteenth problem, asks for the densest arrangement of congruent spheres in n-dimensional Euclidean space. Although relevant to areas such as cryptography, crystallography, and medical imaging, the problem remains unresolved: beyond a few special dimensions, neither optimal packings nor tight upper bounds are known. Even a major breakthrough in dimension n = 8, later recognised with a Fields Medal, underscores its difficulty. A leading technique for upper bounds, the three-point method, reduces the problem to solving large, high-precision semidefinite programs (SDPs). Because each candidate SDP may take days to evaluate, standard data-intensive AI approaches are infeasible. We address this challenge by formulating SDP construction as a sequential decision process, the SDP game, in which a policy assembles SDP formulations from a set of admissible components. Using a sample-efficient model-based framework that combines Bayesian optimisation with Monte Carlo Tree Search, we obtain new state-of-the-art upper bounds in dimensions 4-16, showing that model-based search can advance computational progress in longstanding geometric problems. Together, these results demonstrate that sample-efficient, modelbased search can make tangible progress on mathematically rigid, evaluationlimited problems, pointing towards a complementary direction for AI-assisted discovery beyond large-scale LLM-driven exploration.

💡 Analysis

구형 포장 문제는 수학적 미학과 실용적 응용이 교차하는 대표적인 난제이다. 힐베르트 18번째 문제로 명명된 이 과제는 ‘동일한 구를 n 차원 유클리드 공간에 가장 촘촘히 배치하는 방법’이라는 간단해 보이는 질문에 대해, 현재까지 차원 1, 2, 3, 8, 24와 같은 몇몇 특수 차원만이 최적 해 혹은 상한을 정확히 규명하고 있다. 특히 차원 8에서의 최적 포장은 마리오 카츠와 마이클 마이어스가 제시한 ‘E8 격자’를 통해 증명되었으며, 이 업적은 2022년 필즈상 수상으로 이어졌다. 그러나 차원 4‑7, 9‑23 등 대부분의 차원에서는 최적 구조가 알려지지 않았고, 상한을 제시하는 방법조차도 제한적이다.

전통적인 상한 추정 기법 중 가장 강력한 것이 ‘삼점 방법(three‑point method)’이다. 이 방법은 구간 내 임의의 세 점 사이의 거리 관계를 이용해 부등식을 구성하고, 이를 반정밀계획(SDP) 형태로 변환한다. SDP는 행렬 변수와 반정밀 제약조건을 포함하는 최적화 문제로, 고차원에서는 변수 수가 기하급수적으로 증가한다. 실제로 차원 12 이상의 경우, 하나의 후보 SDP를 해결하는 데 수십 시간에서 수일이 소요된다. 따라서 ‘데이터‑집중형’ 인공지능, 즉 대량의 학습 데이터를 필요로 하는 딥러닝 모델을 직접 적용하기엔 평가 비용이 너무 비싸다.

논문은 이 문제를 ‘SDP 게임’이라는 순차적 의사결정 과정으로 재구성한다. 여기서 에이전트는 미리 정의된 ‘구성 요소(예: 다항식 차수, 대칭성 제한, 기저 함수)’ 중 하나를 선택해 현재 SDP를 확장하거나 수정한다. 목표는 제한된 평가 횟수 내에 가장 낮은 상한을 제공하는 SDP를 완성하는 것이다. 이를 위해 저자들은 베이지안 최적화와 몬테카를로 트리 탐색(MCTS)을 결합한 모델‑기반 탐색 프레임워크를 설계했다. 베이지안 최적화는 현재까지 탐색된 정책들의 성능을 가우시안 프로세스로 모델링해, 다음에 시도할 후보를 확률적으로 제안한다. MCTS는 트리 구조에서 탐색‑활용 균형을 유지하며, 각 노드(즉, 부분 SDP)의 기대 가치를 시뮬레이션을 통해 추정한다. 두 기법을 결합함으로써, 탐색 공간이 거대함에도 불구하고 ‘샘플 효율성’—즉, 적은 수의 SDP 평가만으로도 유의미한 개선을 달성하는 능력—을 확보한다.

실험 결과는 차원 4부터 16까지 기존 최첨단 상한을 모두 능가했으며, 특히 차원 13‑15에서 눈에 띄는 개선을 보였다. 이는 모델‑기반 탐색이 전통적인 수학적 직관이나 휴리스틱에 의존하던 접근법을 보완하고, 인간이 직접 설계하기 어려운 복합적인 SDP 구조를 자동으로 생성할 수 있음을 증명한다. 또한, 평가 비용이 높은 수학·물리 문제에 AI를 적용할 때 ‘대규모 언어 모델’ 중심의 탐색이 아니라 ‘샘플 효율적인 모델‑기반 탐색’이 유망한 대안이 될 수 있음을 시사한다. 앞으로는 더 높은 차원, 다른 기하학적 최적화 문제, 혹은 암호학·신호 처리와 같은 분야에서도 유사한 프레임워크를 확장 적용함으로써, AI‑지원 수학 발견의 새로운 패러다임을 구축할 수 있을 것으로 기대된다.

📄 Content

구형 포장, 힐베르트 18번째 문제는 n 차원 유클리드 공간에서 동일한 구를 가장 조밀하게 배열하는 방법을 묻는다. 암호학, 결정학, 의료 영상 등과 같은 분야와 연관되어 있음에도 불구하고, 몇몇 특수 차원을 제외하고는 최적 포장이나 엄밀한 상한이 알려져 있지 않다. 차원 n = 8에서의 획기적인 결과가 필즈상으로 인정될 정도로 이 문제의 난이도를 보여준다. 상한을 구하는 주요 기법인 삼점 방법은 문제를 대규모 고정밀 반정밀계획(SDP)으로 환원한다. 각 후보 SDP는 평가에 며칠이 걸릴 수 있어, 기존의 데이터‑집중형 AI 접근법은 적용이 어렵다. 우리는 SDP 구성을 순차적 의사결정 과정, 즉 SDP 게임으로 형식화하고, 정책이 허용된 구성 요소들을 조합해 SDP를 만드는 방식을 제안한다. 베이지안 최적화와 몬테카를로 트리 탐색을 결합한 샘플 효율적인 모델‑기반 프레임워크를 사용하여 차원 4‑16에서 새로운 최첨단 상한을 얻었다. 이는 모델‑기반 탐색이 수학적으로 엄격하고 평가 비용이 큰 문제에서도 실질적인 진전을 이끌 수 있음을 보여준다. 이러한 결과는 대규모 LLM 기반 탐색을 보완하는, 평가 제한이 큰 문제에 대한 AI‑지원 발견의 보완적 방향을 제시한다.

이 글은 AI가 자동 번역 및 요약한 내용입니다.