추상화가 인간 중심 상징 설명에 미치는 이중 효과

초록

본 연구는 ASP 기반 논리 설명에서 ‘제거’와 ‘클러스터링’이라는 두 가지 추상화 기법이 인간의 이해도와 인지적 노력에 미치는 영향을 실험적으로 조사한다. 클러스터링은 정확도를 높여 이해를 촉진하고, 제거는 응답 시간을 단축해 인지 부하를 감소시키는 것으로 나타났다.

상세 분석

이 논문은 설명 가능한 인공지능(XAI) 분야에서 상징적 접근법의 한계를 짚고, 논리적 추론 과정을 인간이 직관적으로 파악하기 어려운 ‘과잉 정보’ 문제를 제기한다. 이를 해결하기 위해 저자들은 답변 집합 프로그래밍(ASP)이라는 형식 논리 체계 위에 ‘χ‑irrelevance’라는 새로운 추상화 정의를 도입한다. χ‑irrelevance는 특정 원자 집합이 여러 문제 인스턴스에 대해 동일한 답변 집합을 유지하도록 보장하는 매핑 m을 요구한다. 매핑은 두 가지 기본 연산, 즉 (i) 제거(removal) – 불필요한 원자를 논리적 진리(⊤)로 치환해 버리는 것과 (ii) 클러스터링(clustering) – 여러 원자를 하나의 대표 원자로 통합해 granularity를 낮추는 것으로 구성된다. 이러한 형식적 정의는 기존 연구에서 제시된 제한적 추상화와 달리, 다양한 잠재적 시나리오에 대해 일관된 답변 집합을 유지함을 증명한다.

실험 설계는 세 개의 생물학적 도메인(꽃, 버섯, 선인장)에서 이진 분류 과제를 제시하고, 참가자들에게 네 가지 유형의 설명(원본, 제거형, 클러스터링형, 결합형)을 무작위로 제공한다. 측정 지표는 (1) 정확도(이해도), (2) 응답 시간(인지적 노력), (3) 자기 보고식 자신감이다. 결과는 클러스터링이 정확도를 유의하게 향상시켜 논리 구조의 핵심을 파악하도록 돕는 반면, 제거는 불필요한 디테일을 없애 응답 시간을 크게 단축한다는 두 가지 상반된 효과를 동시에 확인한다. 특히, 클러스터링과 제거를 동시에 적용한 결합형 설명은 정확도와 속도 모두에서 최적의 성능을 보이며, 참가자들의 자신감 역시 상승한다.

이러한 발견은 인간 중심 설명 설계에 있어 ‘추상화는 선택이 아니라 필수’라는 메시지를 전달한다. 논리적 추론 과정에서 핵심 원리만을 강조하고, 비핵심 정보를 배제하거나 일반화함으로써 인간 사용자는 더 적은 인지 자원으로 높은 수준의 이해를 달성한다. 또한, ASP와 같은 형식적 논리 체계에 추상화 연산을 체계적으로 적용함으로써, 복잡한 AI 시스템의 내부 작동을 투명하게 만들면서도 인간 친화적인 인터페이스를 제공할 수 있음을 실증한다.