샤논과 괴델 타르스키 로브: 유한 상태 채널 피드백 용량의 불완전성

본 논문은 피드백이 허용된 유한 상태 채널(FSC)의 정확한 용량을 판단하는 문제를 형식화하고, 그 문제의 근본적인 불가능성을 다각도로 증명한다. 먼저 저자는 이진 입력·출력, 유리 파라미터, 그리고 유니플라(unifilar) 특성을 갖는 FSC를 ‘채널 인코딩 e’라는 이진 문자열로 표현한다. 각 채널 Wₑ 는 유한 상태 집합 S, 초기 상태 분포 π₁,ₑ, 그리고 전이·출력 확률 Wₑ(y,s′|x,s) 으로 완전히 정의되며, 모든 확률은 유리수이다. 논문의 핵심 질문은 주어진 유리 임계값 q∈ℚ에 대해 C_fb(Wₑ,π₁,ₑ)≥q 인지 여부를 판단하는 Cap(e,q) 문제이다. 여기서 C_fb 은 피드백이 허용된 상황에서의 채널 용량으로, 방향 정보(directed information)의 무한 시간 평균값으로 정의된다. 저자는 이 정의를 기반으로, 유한 시간 n 에 대한 최적값 Vₙ(Wₑ,π₁,ₑ) 을 도입하고, C_fb = limₙ→∞ (1/n)Vₙ 임을 명시한다. 다음으로, 저자는 ‘지연 활성화(delayed‑activation)’라는 새로운 상태 전이 메커니즘을 설계한다. 이 메커니즘은 각 단계에서 선택 가능한 행동을 제한하면서도, 임의의 튜링 기계의 동작을 정확히 모사할 수 있다. 구체적으로, 상태 집합을 충분히 크게 잡고, 전이 함수 f(s,x,y) 를 통해 현재 상태·입력·출력에 따라 다음 상태를 결정하도록 만든다. 이렇게 구성된 유니플라 FSC는 입력·출력 시퀀스에 따라 튜링 기계의 구성·전이·정지를 구현한다. 이러한 구성 하에, 저자는 다음과 같은 두 가지 주요 정리를 증명한다. 첫째, Cap(e,q) 문제는 재귀적으로 열거 가능하지만 결정 불가능하다. 즉, 어떤 튜링 기계도 모든 (e,q) 쌍에 대해 정확히 ‘예/아니오’를 출력할 수 없으며, 이는 정지 문제와의 다항식 시간 환원을 통해 보인다. 둘째, LCap 언어는 실수 존재 이론(∃ℝ)의 언어 집합에 포함되지 않는다. 이는 LCap 이 ETR(Existential Theory of the Reals) 문제와 다항식 시간 환원될 수 없음을 의미한다. 구체적으로, Vₙ 값은 유리 다항식 제약을 만족하는 반면, 그 극한값인 C_fb 은 일반적으로 비반복 가능한 실수이며, 따라서 유리 임계값과의 비교는 ∃ℝ‑문제로 표현할 수 없다는 논리를 전개한다. 컴퓨테이션 이론적 관점에서, 저자는 LCap 이 r.e.(recursively enumerable) 집합임을 보이며, 이는 반면에 결정 불가능성으로 인해 그 보완 집합도 r.e.가 아님을 의미한다. 이는 LCap 이 co‑r.e.도 아닌 복합적인 복잡도 구조를 갖는다는 점을 강조한다. 메타수학적 차원에서는, 저자는 이 불가능성 결과를 Gödel‑Tarski‑Löb 불완전성 프레임워크에 연결한다. 구체적으로, 기본 엔트로피 이론 T₀ 와 그 재귀적으로 공리화 가능한 확장 T 에 대해, Cap(e,q) 를 arithmetical predicate로 코딩하면, T 는 해당 명제에 대한 완전하고 일관된 증명을 제공할 수 없게 된다. 이는 ‘정확한 피드백 용량 임계값’이라는 수학적 명제가 어떤 충분히 강력한 형식 체계에서도 자체적인 완전성을 가질 수 없다는 Gödel‑Löb‑style 결과와 일치한다. 논문은 또한 실용적인 함의를 언급한다. 현재까지 FSC에 대한 다양한 특수 클래스(예: 마코프 채널, 특정 그래프 구조)에서는 정확한 용량 공식이나 효율적인 동적 프로그래밍 알고리즘이 존재한다. 그러나 이 논문의 결과는 이러한 특수 경우를 제외하고는, 일반적인 유니플라 FSC에 대해 ‘정확히’ 용량을 판단하거나 임계값을 검증하는 보편적 알고리즘이 존재하지 않음을 선언한다. 따라서 연구자들은 근사 방법, 유한‑시간 최적화, 혹은 추가적인 구조적 제약을 도입한 특수 클래스에 집중해야 함을 시사한다. 마지막으로, 저자는 향후 연구 방향으로 다음을 제안한다. (1) 특정 구조(예: 제한된 상태 전이 그래프, 제한된 피드백 형태)에서의 결정 가능성 경계 탐색, (2) ∃ℝ‑프레임워크와의 관계를 보다 정밀히 분석하여 부분적인 실수 대수적 근사 가능성 검토, (3) 메타수학적 불완전성 결과를 이용한 형식 검증 시스템의 한계 규명 등이다. 전반적으로 본 논문은 정보 이론, 계산 복잡도, 그리고 형식 논리 사이의 교차점에서 새로운 불가능성 결과를 제시함으로써, 유한 상태 채널 피드백 용량 연구에 중요한 이론적 기준점을 제공한다.