보편 알고리즘 지능을 위한 인지 편향 통합

초록

본 논문은 보편 알고리즘 지능(Universal Algorithmic Intelligence, UAI) 모델이 실용화되지 못하는 이유를 분석하고, 인지 아키텍처에서 사용되는 비보편적 기능들을 ‘인지 편향’으로 정의한다. 이러한 편향을 사전 확률과 탐색 휴리스틱 형태로 UAI에 통합함으로써, Turing‑완전한 모델 공간을 유지하면서도 인간 수준의 지각·계획·언어·이론‑심리 등을 구현할 수 있음을 제시한다.

상세 분석

논문은 먼저 기존의 보편 알고리즘 지능 모델, 특히 레이놀즈와 호프스태터가 제안한 AIXI와 그 변형들을 검토한다. AIXI는 모든 가능한 프로그램을 탐색하는 완전한 베이즈 최적화 체계이지만, 무한한 계산 자원과 비현실적인 탐색 비용 때문에 실제 구현이 불가능하다. 반면, 현재 실용적인 AGI 연구는 인지 아키텍처(예: SOAR, ACT‑R, LIDA)와 심층 신경망을 기반으로 하여 제한된 모델 공간—즉, 튜링 불완전한 표현 체계—에서 작동한다. 이러한 접근은 효율성은 확보하지만, 보편성이라는 이론적 보장을 상실한다는 비판을 받는다.

저자들은 이 두 패러다임 사이의 격차를 메우기 위한 핵심 아이디어로 ‘인지 편향’을 제시한다. 인지 편향은 인간이 환경을 모델링할 때 사용하는 사전 지식, 주의 메커니즘, 탐색 전략 등을 의미한다. 이를 수학적으로는 사전 확률 분포와 탐색 휴리스틱으로 형식화한다. 중요한 점은 이러한 편향이 전체 탐색 공간을 제한하지 않고, 오히려 탐색 효율을 높이는 방향으로 작동한다는 것이다. 즉, 편향은 ‘가능한 프로그램 집합’을 축소하는 것이 아니라, ‘가능성 높은 프로그램’에 가중치를 부여하는 형태다.

구체적으로 논문은 지각, 계획, 지식 표현, 주의, 이론‑마음, 언어 등 일곱 가지 핵심 인지 기능을 사례로 든다. 예를 들어, 시각 지각에서는 베이즈 필터링과 변분 자동인코더를 사전으로 사용해 이미지 생성 모델의 탐색을 제한한다. 계획 단계에서는 모델 기반 강화학습의 트리 탐색에 휴리스틱 비용 함수를 삽입해 A*와 유사한 효율성을 얻는다. 지식 표현에서는 온톨로지와 그래프 구조를 사전 확률로 두어 논리적 일관성을 유지하면서도 새로운 개념을 학습한다. 주의 메커니즘은 메타‑강화학습을 통해 탐색 자원을 동적으로 재분배하고, 이론‑마음은 상대 에이전트의 정책을 베이즈 추정으로 모델링한다. 언어 처리에서는 사전 학습된 변환기 모델을 사전 확률로 활용해 구문·의미 구조 탐색을 가속한다.

이러한 사례들은 모두 ‘보편적’인 탐색 프레임워크 위에 인지 편향을 겹쳐 놓음으로써, 이론적 보편성을 유지하면서도 실용적인 계산 복잡도를 달성한다는 점에서 의미가 크다. 또한, 편향을 동적으로 학습하고 업데이트할 수 있는 메커니즘을 제안함으로써, 초기 사전이 부정확하더라도 시간이 지남에 따라 성능이 향상될 수 있음을 보인다.

마지막으로 논문은 인지 편향을 통합한 보편 알고리즘 지능이 ‘범용성’과 ‘실용성’ 사이의 트레이드오프를 완화할 수 있는 유망한 방향이라고 결론짓는다. 향후 연구 과제로는 편향의 메타‑학습, 편향 간 상호작용 분석, 그리고 실제 로봇 시스템에의 적용 검증이 제시된다.