셀룰러 오토마타 한계집합의 라이스 정리 재조명

초록

본 논문은 이진 상태를 갖는 셀룰러 오토마타(CA)의 한계집합(limit set)에 대한 모든 비자명한 성질이 결정 불가능함을 증명한다. 단, 전사성(surjectivity)만은 예외적으로 결정 가능함을 보이며, 이는 Kari가 제시한 일반 상태 집합에 대한 라이스 정리를 이진 경우에 한정해 강화한 결과이다.

상세 요약

셀룰러 오토마타(CA)는 무한 격자 위에 배치된 유한 자동기들의 동시 동기식 업데이트 규칙에 의해 정의되는 이산 동역학 시스템이다. 각 셀은 유한한 상태 집합 Σ를 가지며, 전역 구성(configuration)은 Σ^ℤ와 같은 무한 문자열로 표현된다. CA의 전이 함수 F: Σ^ℤ → Σ^ℤ는 지역 규칙 φ: Σ^{2r+1} → Σ에 의해 결정되며, 이는 반경 r 이웃의 상태에만 의존한다. 이러한 구조는 복잡계, 암호학, 물리학 등 다양한 분야에서 모델링 도구로 활용된다.

한계집합 Λ(F)는 시간 t → ∞ 에서 도달 가능한 구성들의 집합으로, “어느 시점 이후에도 나타날 수 있는 모든 구성”을 의미한다. 라이스 정리는 일반적인 계산 모델(튜링 기계 등)에서 비트리비얼한 언어 속성(property)이 결정 불가능함을 말한다. Kari는 1994년에 CA에 대해 라이스 정리를 증명했으며, 이는 “임의의 유한 상태 집합 Σ에 대해, Λ(F)의 비자명한 성질은 결정 불가능”이라는 형태였다.

본 논문은 이 결과를 한 단계 더 세밀하게 다룬다. 먼저 상태 집합을 두 개(0,1)로 제한한 이진 CA에 초점을 맞춘다. 이진 CA는 구현상의 단순성 때문에 실험적 연구와 응용에서 가장 많이 사용되지만, 이론적으로는 다중 상태 CA와 동등한 계산 능력을 가진다. 저자들은 기존 증명에서 사용된 복잡한 인코딩을 단순화하고, “전사성(surjectivity)”이라는 특수한 경우만은 결정 가능함을 명시적으로 구분한다. 전사성은 모든 가능한 구성이 어떤 초기 구성에서 도달될 수 있음을 의미하며, 이는 Hedlund의 전사성 정리와 연결된다.

증명 전략은 두 단계로 구성된다. 첫 번째 단계에서는 임의의 튜링 기계 M과 입력 w를 주어진 이진 CA F에 “시뮬레이션 블록”으로 삽입한다. 이 블록은 F의 전역 동작을 통해 M의 계산 과정을 정확히 재현하도록 설계된다. 두 번째 단계에서는 한계집합 Λ(F)의 특정 속성을 “M이 w를 받아들인다” 혹은 “M이 무한 루프에 빠진다”와 같은 논리적 명제와 동형시킨다. 이렇게 함으로써, Λ(F)의 비자명한 성질을 판별하는 문제가 튜링 기계의 정지 문제와 동치임을 보인다.

핵심적인 기술적 기여는 다음과 같다. (1) 이진 CA에 대한 인코딩을 최소화하여, 상태 수가 두 개일 때도 충분히 복잡한 계산을 구현할 수 있음을 증명한다. (2) 전사성 외의 모든 성질이 “언어 비트리비얼성”을 만족한다는 조건을 명확히 정의하고, 이를 통해 라이스 정리의 적용 범위를 명시적으로 제한한다. (3) 기존의 “전역 사전 이미지(global preimage) 문제”와 “정역성(onto) 문제” 사이의 미묘한 차이를 분석하여, 전사성만이 결정 가능함을 보이는 새로운 결정 알고리즘을 제시한다.

이러한 결과는 이론적 컴퓨터 과학에서 CA의 복잡도 계층을 재조명한다. 특히, 이진 CA가 여전히 “모든 비전사성 성질에 대해 라이스 정리”의 적용 대상임을 확인함으로써, 실용적인 모델링에서 상태 수를 늘리는 것이 계산적 강력함을 향상시키는 것이 아니라는 점을 강조한다. 또한, 전사성 판단이 가능한 유일한 예외라는 사실은 CA 설계 시 보존성(conservation)이나 역전 가능성(reversibility)과 같은 특수한 동역학을 탐구할 때 유용한 기준이 될 수 있다.