프랭클 추측을 향한 형식화 FC패밀리와 IsabelleHOL 검증

초록

본 논문은 프랭클 추측의 핵심 개념인 FC‑패밀리를 Isabelle/HOL에 형식화하고, 검증된 컴퓨터 탐색을 통해 기존에 알려진 FC‑패밀리를 재확인함과 동시에 새로운 FC‑패밀리를 발견한 연구이다. 증명‑by‑computation 패러다임을 적용해 수학적 정의와 탐색 알고리즘을 모두 형식적으로 검증함으로써 신뢰성을 높였다.

상세 분석

프랭클 추측은 “합집합으로 닫힌 모든 집합 패밀리에는 최소 절반 이상의 집합에 포함되는 원소가 존재한다”는 명제이며, 1970년대 이후 수많은 부분 결과가 알려졌지만 일반적인 증명은 아직 확보되지 않았다. 이때 FC‑패밀리(Freiman‑Cameron 패밀리)라는 개념이 도입되는데, 이는 특정 소규모 패밀리를 포함하는 모든 합집합 닫힌 패밀리가 프랭클 조건을 만족한다는 것을 보장한다. FC‑패밀리는 탐색 공간을 크게 축소시키는 역할을 하며, 특히 자동화된 증명 시스템에서 중요한 전처리 단계가 된다.

논문은 먼저 Isabelle/HOL 내에서 유한 집합과 합집합 닫힘을 정확히 정의한다. 집합 패밀리는 ‘finite set of finite sets’ 형태로 모델링되며, 합집합 닫힘은 모든 두 원소 A, B에 대해 A ∪ B ∈ F인 조건으로 형식화된다. 프랭클 조건은 각 원소 x에 대해 등장 횟수 |{S ∈ F | x ∈ S}| ≥ |F|/2 인지를 판단하는 부등식으로 구현된다.

FC‑패밀리 정의는 “F가 FC‑패밀리이면, 임의의 합집합 닫힌 패밀리 G가 F ⊆ G일 때 G는 프랭클 조건을 만족한다”는 명제이며, 이를 Isabelle/HOL의 정의와 정리 형태로 기술한다. 핵심은 주어진 후보 패밀리 F에 대해 모든 가능한 상위 패밀리 G를 열거하지 않고도 프랭클 조건을 보장할 수 있음을 증명하는 것이다. 이를 위해 논문은 ‘증명‑by‑계산’ 접근을 채택한다.

구체적인 알고리즘은 후보 F를 입력으로 받아, 제한된 크기의 원소 집합과 집합 수에 대해 가능한 모든 G를 생성하고, 각 G가 합집합 닫힘을 만족하는지 검증한다. 이후 프랭클 조건을 검사하는 절차를 Isabelle/HOL 코드로 추출하고, 자동화된 SAT/ILP 솔버와 연동해 검증된 증명 객체를 생성한다. 중요한 점은 모든 계산 단계가 Isabelle/HOL 내부에서 수행되거나, 추출된 코드를 통해 형식 검증된 형태로 실행된다는 점이다.

실험 결과, 기존 문헌에 보고된 작은 크기의 FC‑패밀리(예: {a}, {a,b}, {a,b,c} 등)를 모두 재현했으며, 새로운 FC‑패밀리로 {a,b},{a,c},{b,c},{a,b,c}와 같은 구조를 발견했다. 이 새로운 패밀리는 기존에 알려진 패밀리와는 다른 조합 규칙을 가지며, 프랭클 조건을 만족함을 형식적으로 증명하였다.

이러한 결과는 두 가지 의미를 가진다. 첫째, Isabelle/HOL을 이용한 형식화와 검증이 복잡한 조합 탐색에 충분히 적용 가능함을 보여준다. 둘째, 새로운 FC‑패밀리의 발견은 프랭클 추측에 대한 부분적 진전을 제공하며, 향후 더 큰 규모의 패밀리 탐색에 대한 기반을 마련한다. 논문은 또한 증명‑객체와 탐색 로그를 공개함으로써 재현 가능성을 확보하고, 향후 연구자들이 동일한 프레임워크를 확장해 다른 후보 패밀리를 검증할 수 있도록 설계하였다.