선형 모델 기반 프로그램 학습: 확률 샘플링과 일반화 애니메이션의 가능성

초록

본 논문은 실행 흐름의 선형 결합을 허용하는 두 종류의 계산 모델, 즉 확률적 샘플링과 일반화 애니메이션을 제시한다. 이러한 모델에서는 프로그램 학습이 전통적인 결정론적 프로그램보다 더 tractable하다고 주장한다. 확률 프로그램의 “샘플링‑샘플러” 패러다임, 부정 계수를 이용한 음수 확률·음수 가중치, 부분 모순(parital inconsistency)과 비단조 추론을 벡터 공간으로 표현하는 방법 등을 논의하고, 데이터플로우 그래프를 행렬로 전환해 연속적인 프로그램 변형을 가능하게 하는 설계 방안을 제시한다.

상세 분석

논문은 먼저 선형 결합이 가능한 두 계산 체계—확률적 샘플링과 일반화 애니메이션—를 정의한다. 확률적 샘플링에서는 두 개 이상의 샘플러를 서로 다른 속도로 병렬 실행함으로써 원하는 가중치를 갖는 혼합 분포를 생성한다. 이때 양의 계수뿐 아니라 음의 계수를 허용하기 위해 ‘양‑음 채널’이라는 이중 스트림 구조를 도입한다. 이는 생물학적 신경망에서 양·음 신호가 동시에 존재하는 메커니즘과 유사하며, 부호가 있는 측도(signed measure)를 이용해 확률 밀도 자체에 음수를 부여하는 ‘음수 확률’ 개념과 연결된다.

일반화 애니메이션은 이미지·음향을 실시간으로 생성하는 연속적인 함수로 모델링한다. 여기서는 픽셀·음표와 같은 기본 요소를 임의의 2차원 혹은 그래프 구조에 매핑하고, 점별 선형 결합을 통해 색상·음량을 조절한다. 양·음 계수를 동시에 사용할 수 있기 때문에, 기존 영상·음악 믹싱 툴에서 구현되는 ‘합성’과 동일한 수학적 기반을 제공한다.

두 체계 모두 ‘부분 모순(partial inconsistency)’을 수학적으로 다루기 위해 벡터 공간, 양-음 격자(bilattice), 그리고 이중 위상(bi‑topology)을 도입한다. 예를 들어, 구간 수(interval numbers)를 확장해 b<a인 ‘가짜 구간(pseudo‑segment)’을 허용하면, 정보 순서(⊑)와 물질 순서(≤)가 서로 반대되는 두 위상이 동시에 정의된다. 이러한 구조는 비단조 추론(non‑monotonic inference)과 반단조 추론(anti‑monotonic inference)을 자연스럽게 지원한다.

데이터플로우 프로그래밍 관점에서는 프로그램을 bipartite 그래프로 표현하고, 이를 실수 행렬로 변환한다. 행렬 원소를 연속적으로 조정함으로써 프로그램 자체를 ‘거의 연속적인 변환(almost continuous transformation)’으로 진화시킬 수 있다. 이는 전통적인 유전 알고리즘이 이산적인 교차·돌연변이 연산에 의존하는 것과 대비된다. 또한, 고차 확률 프로그래밍 언어에서 ‘샘플링‑샘플러’ 패러다임을 구현한 최신 연구(Perov·Wood, Lake 등)를 리뷰하면서, 프로그램 학습이 베이지안 추론, 파티클 MCMC, 그리고 자동 부분 평가(partial evaluation)와 결합될 때 얻는 효율성을 강조한다.

결론적으로, 선형 모델을 기반으로 한 계산 체계는 프로그램의 표현력과 학습 가능성을 동시에 확대한다. 양·음 계수, 부분 모순, 벡터 의미론을 활용하면 기존 결정론적 모델이 갖는 경직성을 극복하고, 진화적·베이지안적 학습 메커니즘을 자연스럽게 통합할 수 있다.