용어 코딩과 분산: 완전성 대 비율 복잡도 이분법

초록

본 논문은 함수 기호의 해석을 선택해 유한한 항 방정식 시스템을 만족시키는 할당 수를 최대로 하는 “용어 코딩”이라는 새로운 프레임워크를 제시한다. 특히 입력‑출력 항들만으로 정의되는 지도 Θ의 이미지 크기를 최대로 하는 “분산” 문제에 집중한다. 저자는 최대 분산이 n^D 형태이며 여기서 D는 연관된 방향 그래프의 추측 수(guessing number)와 일치함을 보이고, D를 다항시간에 계산할 수 있는 알고리즘을 제시한다. 반면 출력 차원 r≥3인 경우 완전 분산(이미지가 전체 A^r인 경우)의 존재 여부는 결정 불가능함을 증명한다. 즉, 정확한 “완전성” 판단은 불가능하지만, 비율(지수) 판단은 다항시간에 해결 가능한 복잡도 이분법을 발견한다.

상세 분석

논문은 먼저 용어 코딩 문제를 형식적으로 정의한다. 알파벳 A(크기 n)와 변수 집합 V, 함수 기호 집합 F, 그리고 등식 집합 Γ를 입력으로 받아, 각 함수 기호에 대한 해석 I를 자유롭게 선택한다. 해석 I에 대해 Γ를 만족하는 전역 할당 a∈A^V의 개수를 |Sol_I(Γ;n)|라 하면, 목표는 이 값을 최대화하는 I를 찾는 것이다. 이 최적값을 S_n(Γ)라고 정의하고, 이를 계산하는 문제를 TERM‑CODING‑MAX라 명명한다.

핵심 아이디어는 Γ를 “정규형”으로 변형하고, 각 정의식이 변수 = 함수(변수…) 형태가 되도록 평탄화(flatten)한 뒤, 동일한 좌변을 갖는 등식들을 합쳐서 충돌 없는 형태(collision‑free normal form)로 만든다. 이렇게 변형해도 S_n(Γ)의 값은 보존된다. 이후 각 변수에 대한 의존 관계를 그래프로 표현한 ‘의존 그래프’ G_Γ를 만든다. 이 그래프의 정점은 변수이며, (u→v) 간선은 v가 u들의 함수에 의해 결정된다는 의미다.

정규화된 함수형 인스턴스에 대해, 저자는 두 개의 ‘다양화(diversification)’ 과정을 정의한다. 첫 번째 다양화는 각 함수 기호를 고유하게 복제해 그래프의 각 간선을 독립적인 추측 게임으로 만든다. 두 번째 다양화는 함수 기호를 복제하지 않고 원래 형태를 유지한다. 이 두 다양화 사이에 ‘추측 수(guessing number) 샌드위치 정리’를 증명한다. 즉, 원래 용어 코딩 최적값은 두 다양화 인스턴스가 정의하는 추측 게임의 승리 구성 수 사이에 끼어 있음을 보인다. 추측 수는 그래프 엔트로피와 직접 연결되며, 기존 네트워크 코딩 및 인덱스 코딩 연구에서 중요한 파라미터로 알려져 있다.

특히 ‘분산(dispersion)’ 문제는 출력 항목 t(x)=(t₁,…,t_r)만을 고려한다. 여기서 Θ^I(x)= (t₁^I(x),…,t_r^I(x))가 정의되며, 목표는 이미지 크기 |Im(Θ^I)|를 최대화하는 것이다. 저자는 이 경우 최대 이미지 크기가 Θ(n^D)임을 보이고, D는 앞서 정의한 의존 그래프의 추측 수와 동일함을 증명한다. 더 나아가 D는 정수이며, 이를 구하기 위해 ‘플로우 네트워크 N(t)’를 구성한다. N(t)는 각 입력 변수와 출력 변수 사이에 용량 1인 간선을 두고, 함수 기호마다 중간 노드를 삽입해 흐름을 모델링한다. 이 네트워크에 대해 전통적인 최대 흐름/최소 컷 알고리즘을 적용하면 D를 다항시간에 정확히 계산할 수 있다.

복잡도 측면에서 가장 눈에 띄는 결과는 두 가지 결정 문제 사이의 격차다. (1) 완전 분산 여부, 즉 어떤 유한 n≥2와 해석 I가 존재해 Θ^I가 A^r 전체에 전사(surjective)되는지를 묻는 문제는 r≥3이면 결정 불가능함을 증명한다. 이는 유한 만족성 문제와 유한 전사성 문제의 알려진 불가능성 결과를 용어 코딩 프레임워크에 적절히 인코딩한 것이다. (2) 반면, 분산 지수 D를 구하거나 D≥k(정수 k)인지 여부는 N(t)의 최대 흐름을 계산하면 되므로 다항시간에 해결 가능하다. 따라서 ‘완전성(Exact solvability)’과 ‘비율(Asymptotic rate)’ 사이에 명확한 복잡도 이분법이 존재한다는 점을 강조한다.

이러한 이론적 결과는 네트워크 코딩, 인덱스 코딩, 그리고 일반적인 정보 흐름 설계 문제에 직접적인 적용 가능성을 가진다. 특히 복잡도 이분법은 설계자가 “정확히 전사 가능한 코드를 찾는 것”은 불가능할 수 있지만, “지수적으로 최적에 가까운 코드가 존재한다는 것”은 효율적으로 판단할 수 있음을 시사한다. 또한, 추측 수와 최대 흐름/최소 컷 사이의 연결 고리는 기존 그래프 엔트로피 연구와도 자연스럽게 맞물려, 정보 이론적 한계와 알고리즘적 구현 사이의 격차를 메우는 새로운 도구로 활용될 수 있다.