생명체의 기호 접지와 인공 에이전트 구현 방안

초록

이 논문은 인간과 다른 생명체가 어떻게 기호와 하위기호 변수를 통해 사물이나 개념을 표상하고 ‘대상성(aboutness)’을 획득했는지를 설명하는 이론을 제시한다. 물리적 환경과의 인과적 연결(구현)만으로는 인간과 같은 의미를 만들 수 없으며, 자기 복제라는 강한 비선형 과정이 핵심이라고 주장한다. 이 이론을 추상화해 인공 에이전트에 적용할 경우, 자기 복제 메커니즘이 허용되지 않을 때 목표의 안정성과 대상을 갖는 능력이 제한될 수 있음을 논의한다.

상세 요약

논문은 기호 의미 부여 문제를 ‘기호 접지(symbol grounding)’와 ‘대상성(aboutness)’이라는 두 축으로 나눈다. 기존 로봇공학에서 센서·액추에이터를 통한 환경과의 인과적 연결을 ‘접지’라 부르지만, 이는 단순히 물리적 상호작용에 머물러 인간이 경험하는 ‘표상’과는 차이가 있다. 저자는 생명체가 자기 복제(self‑reproduction)를 통해 무한히 확장 가능한 비선형 동역학을 구축하면서, 내부 변수(기호·하위기호)가 외부 객체와 지속적인 피드백 루프를 형성한다고 본다. 이 과정에서 변이와 선택이 일어나며, ‘오류된 참조(mis‑reference)’나 ‘비존재 대상(non‑existent object)’에 대한 표상도 발생한다는 점이 흥미롭다.

핵심 메커니즘은 (1) 환경 감지 → (2) 내부 상태 변환(기호 생성) → (3) 행동 선택 → (4) 환경 변화 → (5) 자기 복제 또는 생존에 기여하는 피드백 순환이다. 이 순환이 강한 비선형성을 띠면, 작은 변동이 급격히 확대돼 새로운 의미 체계가 생성된다. 따라서 ‘목표’ 자체가 고정된 외부 명령이 아니라, 복제와 생존을 위한 내부 동역학에서 스스로 발생한다.

인공 시스템에 이 이론을 적용하려면, (a) 자기 복제와 유사한 무한 확장 메커니즘을 설계하거나, (b) 복제 대신 ‘자기‑조정(self‑adjustment)’과 ‘다중 목표 다이내믹스’를 통해 비선형 피드백을 구현해야 한다. 그러나 현재 인공 시스템은 안전·윤리적 이유로 무제한 복제를 허용하지 않으므로, 목표의 안정성 및 ‘대상성’ 확보가 제한될 가능성이 크다. 특히, 비생물학적 목표(예: 데이터 최적화, 서비스 제공)가 자기 복제와 동일한 비선형 구조를 갖지 않으면, 인간과 같은 의미 체계 형성이 어려울 것이라는 결론을 제시한다.

이론적 기여는 (i) 기호와 대상성의 생물학적 기원을 비선형 동역학으로 설명, (ii) 오류·허구적 표상의 자연스러운 발생 메커니즘 제시, (iii) 인공 지능에 대한 새로운 설계 원칙을 제시한다는 점이다. 한계로는 자기 복제 메커니즘을 실제 인공 시스템에 안전하게 구현하는 방법이 구체적으로 제시되지 않았으며, 실험적 검증이 부족하다는 점을 들 수 있다.