계산 불가역성 및 예측 불가능성에 대한 실험적 탐구

초록

본 논문은 3·4 상태·2 기호 소형 튜링 기계들의 실행을 정수열 예측 프로그램으로 앞서가려는 대규모 실험을 통해 계산 불가역성과 예측 불가능성의 실증적 특성을 조사한다. 실험 결과는 결정 절차의 수렴 속도와 집합의 결정 가능성에 대한 새로운 통찰을 제공한다.

상세 분석

이 연구는 계산 불가역성이라는 개념을 실험적 방법으로 접근한다는 점에서 이론 컴퓨터 과학과 실증 과학 사이의 간극을 메우려는 시도이다. 저자들은 모든 3‑state·2‑symbol 및 4‑state·2‑symbol 튜링 기계를 대상으로, 각 기계가 생성하는 출력 문자열을 정수열 형태로 변환한 뒤, ‘함수 탐색기’라 불리는 자동화된 패턴 인식 프로그램을 이용해 미래 값을 예측한다. 핵심 아이디어는 특정 기계의 실행을 완전히 시뮬레이션하지 않고도, 그 출력이 일정한 규칙성을 보이는 경우 예측이 가능하다는 전제다.

실험 설계는 두 단계로 이루어진다. 첫 번째 단계에서는 각 튜링 기계에 대해 초기 입력(보통 빈 테이프)으로부터 일정 길이(예: 10,000 스텝)까지의 실행을 기록한다. 두 번째 단계에서는 기록된 출력을 기반으로 함수 탐색기가 가능한 가장 간단한 수학적 모델(다항식, 재귀식, 자동생성 규칙 등)을 찾아낸다. 이후 탐색기가 제시한 모델을 사용해 추가적인 스텝을 예측하고, 실제 시뮬레이션 결과와 비교한다.

결과는 크게 세 가지 범주로 나뉜다. 첫째, 대부분의 기계는 짧은 초기 구간에서 복잡한 비선형 패턴을 보이지만, 일정 시점 이후에는 단순한 선형 혹은 주기적 구조로 수렴한다는 점이다. 이는 ‘속도‑감소 현상’이라 부를 수 있으며, 초기 복잡성이 결국은 결정 가능한 형태로 귀결된다는 의미다. 둘째, 일부 기계는 예측 모델이 전혀 수렴하지 못하고, 오히려 예측 오차가 기하급수적으로 증가한다. 이러한 경우는 전통적인 계산 불가역성(예: 정지 문제의 불가결정성)과 직접 연결될 수 있다. 셋째, 함수 탐색기가 찾은 모델이 실제 기계의 동작을 완벽히 재현하는 경우는 극히 드물었으며, 이는 결정 절차가 근본적으로 제한된 정보량만을 활용한다는 점을 시사한다.

또한 저자들은 실험 데이터를 바탕으로 ‘수렴 속도 함수’를 정의하고, 이 함수가 특정 기계군에 대해 상한을 갖는지 여부를 탐구한다. 이 과정에서 ‘결정 가능 집합’의 정의역을 확장하거나 축소함으로써, 전통적인 복잡도 이론에서 다루는 ‘P vs NP’와는 다른 차원의 복잡도 구분이 가능함을 제시한다.

마지막으로, 논문은 이러한 실험적 접근이 ‘결정론적 시스템의 실용적 예측 가능성’에 대한 철학적 질문을 제기한다는 점을 강조한다. 완전한 시뮬레이션 없이도 어느 정도의 예측이 가능하다는 사실은, 계산 이론이 다루는 ‘불가역성’이 실제 응용에서 반드시 절대적인 장벽이 아니라는 새로운 관점을 제공한다.