벡터 공간의 계산적 정의와 재작성 시스템

본 논문은 “벡터 공간”이라는 기본적인 대수 구조를 전통적인 공리 체계 대신 재작성 시스템(Rewrite System)으로 정의하는 방법을 제시한다. 저자들은 먼저 알고리즘의 유효성을 모델 이론과 동등하게 정의한다. 구체적으로, 1차 언어 L 위에 정의된 재작성 규칙 집합 R이 모든 변수 할당 φ에 대해 ⟦l⟧φ = ⟦r⟧φ를 만족하면, 구조 M은 R에 대해 “유효”하다고 선언한다. 이는 전통적인 이론‑모델 관계와 완전히 유사한 개념으로, 알고리즘 자체가 이론이 될 수 있음을 보여준다. 벡터 공간을 다루기 위해 두 정렬 K(스칼라)와 E(벡터)를 갖는 1차 언어를 설정한다. 벡터 연산으로는 덧셈 ‘+’와 스칼라 곱 ‘·’가 있으며, 스칼라 연산으로는 +, ×, 0, 1이 있다. 벡터 전용 재작성 규칙 R은 다음과 같은 선형성 규칙들을 포함한다. 1. λ·(u+v) → λ·u + λ·v 2. (λ+μ)·u → λ·u + μ·u 3. λ·(μ·u) → (λ×μ)·u 4. λ·0 → 0, 0·u → 0, 1·u → u 등 이 규칙들은 모두 AC(교환·결합) 모드에서 적용되며, ‘+’에 대한 AC‑rewriting을 전제로 한다. 스칼라 연산에 대해서는 별도의 재작성 시스템 S를 가정한다. S는 최소한 +, ×, 0, 1을 포함하고, 종료·그라운드 수렴(ground‑confluent) 특성을 가진다. 또한, S는 필드 연산의 기본적인 동치 관계(예: 0+λ → λ, λ×1 → λ, 분배법칙 등)를 정상 형태로 변환한다. 논문은 먼저 R 자체가 종료함을 증명한다. 이를 위해 측정 함수 |·|를 정의한다. |u+v| = 2+|u|+|v|, |λ·u| = 1+2|u|, |0| = 0 등으로 정의하면, 각 규칙 적용 시 측정값이 감소함을 확인할 수 있다. 따라서 R은 무한 감소 경로가 없으며 종료한다. 다음으로 R∪S의 종료성을 다룬다. S‑축소는 |·| 값을 보존하고, R‑축소만이 감소시키므로, R‑축소가 유한하게 일어난 뒤 S‑축소가 종료함을 이용해 전체 시스템이 종료함을 보인다. 수렴성(Confluence) 증명은 보다 복잡하다. 저자들은 보조 시스템 S₀을 정의한다. S₀는 스칼라 연산 중 0·λ → 0, 1·λ → λ, 분배법칙 λ·(μ+ν) → λ·μ + λ·ν 등을 포함한다. S₀는 자체적으로 종료·수렴함을 보이며, S는 S₀를 포함한다(즉, S가 S₀를 subsume). 핵심은 R과 S* (S의 반사적 전이 폐쇄) 사이의 교환성이다. 즉, R‑축소와 S‑축소가 서로 뒤섞여도 결과가 동일한 정상 형태로 수렴한다는 것을 보인다. 이를 위해 “키 레마”(Key Lemma)를 제시한다. 레마는 다음 가정을 전제로 한다. (i) S는 종료·수렴, (ii) R∪S는 종료, (iii) R∪S₀는 수렴, (iv) S는 S₀를 subsume, (v) R는 S*와 교환. 이 가정 하에 R∪S가 수렴함을 증명한다. 이제 R∪S가 K‑벡터 공간의 모든 공리를 만족함을 보인다. 전통적인 벡터 공간 공리(연산의 결합·교환, 스칼라 배분법칙, 항등원 존재 등)는 모두 R의 규칙에 해당한다. 스칼라와 관련된 필드 공리는 S에 의해 보장된다. 특히, 역원 존재(∀u ∃v u+v=0)도 λ·u + (−1)·u = 0이라는 R 규칙을 통해 유도된다. 따라서 R∪S의 모델은 정확히 K‑벡터 공간 클래스와 동치한다. 논문은 또한 정상 형태가 변수들의 선형 결합 형태로 변환되는 과정을 상세히 분석한다. 정상 형태는 λ₁·xᵢ₁ + … + λₖ·xᵢₖ + xⱼ₁ + … 와 같이 표현되며, 여기서 λᵢ는 0,1이 아닌 스칼라, xᵢ는 변수이다. 이는 선형대수에서 “벡터를 기본 벡터의 선형 결합으로 전개”하는 알고리즘과 동일하다. 저자들은 이 알고리즘이 양자·확률 프로그래밍 언어의 의미론에서 핵심적인 역할을 한다고 주장한다. 즉, 프로그램과 입력을 벡터로 해석할 때, 프로그램의 결과는 항상 기본 벡터들의 선형 결합으로 표현될 수 있다. 마지막으로, 논문은 이러한 계산적 정의가 다른 대수 구조, 예를 들어 이중선형 연산(bilinear operation)이나 텐서곱 등에까지 확장될 수 있음을 언급한다. 재작성 시스템을 이용한 정의는 전통적인 공리 체계보다 자동화된 검증, 프로그램 변환, 그리고 언어 설계에 유리한 특성을 제공한다. 요약하면, 저자들은 벡터 공간을 재작성 시스템 R과 스칼라 시스템 S의 결합으로 완전히 정의하고, 종료·수렴성을 정형적으로 증명함으로써 “계산적 정의”라는 새로운 관점을 제시한다. 이는 대수 구조의 모델 이론을 알고리즘 검증과 연결시키는 중요한 시도이며, 특히 함수형·양자 프로그래밍 언어의 의미론 연구에 직접적인 응용 가능성을 제공한다.