실제 수행된 작업을 알 수 있게 하는 추적 프레임워크

본 논문은 개인화 컴퓨터 사용 에이전트(PCUA)가 기존 챗봇과 달리 파일 시스템, 명령 셸, 브라우저, 네트워크 등 다양한 실행 표면에 직접 접근하고, 상태를 지속적으로 유지하며, 서드파티 스킬·플러그인 형태로 기능을 확장한다는 점에서 보안·프라이버시 위험이 급증하고 있음을 지적한다. 이러한 위험은 사용자가 위임한 권한과 실제 에이전트가 수행한 행동 사이의 불일치, 그리고 작업 종료 후 남아 있는 잔여 효과에 대한 인식 부족에서 비롯된다. 연구는 세 단계로 진행된다. 첫 번째 단계에서는 OpenClaw 생태계를 대상으로 다중 출처 코퍼스를 구축하였다. 공식 문서, 보안 권고·취약점 보고서, 악성 스킬 분석, 뉴스 기사, 튜토리얼·포럼 글 등을 수집해 1,200여 건의 이벤트를 데이터베이스화하고, 각 사건을 “설치·위임·실행·잔여·제거” 단계에 매핑했다. 이를 기반으로 위험 taxonomy를 도출하고, 스킬·툴·권한·지속성·제거 신뢰라는 다섯 축을 시각화한 에코시스템 맵을 제시한다. 두 번째 단계는 인터뷰 연구다. 총 24명의 참가자를 비전문가(일반 사용자), 기술 사용자(프로그래머·데이터 과학자), 배포 전문가(에이전트 설치·유지보수 담당)로 구분해 반구조화 인터뷰를 진행했다. 인터뷰 결과, 모든 그룹이 “보안·프라이버시 위험”이라는 추상적 개념은 인식했지만, 구체적인 스킬이 어떤 파일을 수정하거나 어떤 네트워크 요청을 보낼 수 있는지, 에이전트가 어떤 권한을 지속적으로 보유하는지에 대한 정확한 모델이 부재했다. 특히, “긴급히 AI 도구를 써야 한다”는 서사와 “친구·튜토리얼에 의존한다”는 사회적 요인이 설치 결정을 주도하지만, 사후 감사 수단이 없어서 위험을 사전에 차단하기 어렵다는 구조적 문제를 발견했다. 또한, 제거 과정에서 “완전 삭제가 보장되지 않는다”는 불신이 강하게 나타났으며, 이는 사용자 스스로 복구·제거 절차를 수행하려는 의지를 저해한다. 세 번째 단계에서는 이러한 인식 격차를 메우기 위한 추적 프레임워크인 AgentTrace를 설계·구현했다. AgentTrace는 다섯 차원(작업 타임라인, 자원 터치포인트, 권한 히스토리, 행위 출처, 잔여 효과)을 통합해 시각화한다. 구체적으로, 에이전트가 실행한 명령·툴 호출을 시간 순서대로 나열하고, 접근한 파일·디렉터리·네트워크 엔드포인트를 색상으로 구분한다. 권한 변동(예: 관리자 권한 상승, API 키 사용)은 별도 트랙에 기록되며, 각 행동이 어느 스킬·플러그인·사용자 프롬프트에서 유발됐는지를 provenance 정보로 표시한다. 마지막으로, 실행 후 남은 파일·레지스트리·환경 변수·백그라운드 프로세스 등을 자동 감지해 “잔여 효과” 패널에 요약한다. 프로토타입은 웹 기반 대시보드로 구현했으며, 시나리오 기반 사용자 평가를 통해 12명의 참가자에게 두 가지 작업(파일 자동 정리와 웹 데이터 수집)을 수행하도록 했다. 평가 결과, 기존 로그만으로는 파악하기 어려웠던 “숨은 파일 생성”, “예상치 못한 네트워크 호출”, “백그라운드 서비스 잔류” 등을 평균 73% 빠르게 식별했으며, 위험 행동에 대한 경고가 신뢰 수준을 조정하는 데 긍정적 영향을 미쳤다. 또한, 참가자들은 “제거 후 잔여 효과를 확인할 수 있어 안심된다”는 피드백을 제공했다. 논문의 주요 기여는 다음과 같다. (1) OpenClaw를 사례로 한 실증적 코퍼스를 통해 개인화 컴퓨터 사용 에이전트의 위험 지형을 체계화하였다. (2) 사용자 그룹별 mental model 격차를 정성적으로 규명하고, 위험 인식이 서사·사회적 요인에 크게 좌우됨을 밝혀냈다. (3) 사후 감사에 초점을 맞춘 다차원 추적 프레임워크와 프로토타입을 제시했다. (4) 추적 인터페이스가 위험 인식·신뢰 조정·복구 행동에 실질적 효과가 있음을 시나리오 평가로 입증했다. 향후 연구 과제로는 (①) 에이전트 실행 로그를 자동 수집·표준화하는 백엔드 인프라 구축, (②) 추적 데이터의 프라이버시 보호와 최소 노출을 위한 차등 프라이버시 기법 적용, (③) 다중 에이전트·멀티클라우드 환경에서 통합 추적 뷰 제공, (④) 실시간 위험 경고와 자동 복구 정책 연계 등을 제시한다. 궁극적으로, 개인화 컴퓨터 사용 에이전트가 일상에 깊숙이 스며들면서도 사용자가 “무엇을 했는가”를 명확히 알 수 있는 투명한 생태계 구축이 목표이다.