기계 대리자 인간과 기계의 창조적 관계

초록

본 논문은 AI·ML 기반 창작 도구를 ‘자동화‑자율성’ 스펙트럼에 배치하고, 인간‑기계 협업을 단순한 공동창작으로 보는 기존 시각을 비판한다. 설계·구현·운용 단계에 내재된 다양한 인간 행위자를 드러내어, 알고리즘·데이터가 매개하는 새로운 형태의 인간‑인간 협업까지 포괄하는 확장된 협업 프레임을 제시한다.

상세 분석

이 논문은 최근 AI·ML 기술이 단순한 작업 자동화를 넘어 ‘자율적’ 창작 행위로 확장되는 현상을 비판적 시각으로 조명한다. 저자는 먼저 창작 분야에서 AI 도구를 ‘자동화’와 ‘자율성’ 사이의 연속선상에 위치시키며, 두 극단이 실제 현장에서는 혼재한다는 점을 강조한다. 자동화 단계에서는 인간이 명시적 목표와 파라미터를 제공하고, 시스템은 이를 그대로 실행한다. 반면 자율성 단계에서는 알고리즘이 자체적인 목표 탐색·학습을 수행해 인간의 개입을 최소화한다. 그러나 이러한 구분만으로는 시스템이 사회·문화적 맥락에 어떻게 자리잡는지를 설명하기 부족하다.

논문은 ‘인간‑기계 관계’를 다층적 행위자 네트워크로 재구성한다. 설계자는 데이터 수집·전처리·모델 선택·하이퍼파라미터 튜닝 등 기술적 결정에 개입하고, 이는 곧 창작 결과물에 내재된 가치·편향을 형성한다. 구현 단계에서는 엔지니어와 인터페이스 디자이너가 사용자의 피드백 루프를 설계해 시스템의 ‘학습 가능성’을 조정한다. 운용 단계에서는 최종 사용자인 예술가·디자이너가 시스템을 어떻게 ‘프롬프트’하고 결과물을 해석·재구성하는가가 핵심적인 인간 행위가 된다. 이러한 행위자들은 모두 ‘기계 대리자’라는 메타포 안에서 서로 영향을 주고받으며, 단순히 인간이 기계를 ‘도구’로 쓰는 관계를 넘어선다.

또한 저자는 20세기 후반의 예술 협업 모델을 재검토한다. ‘콜라보라티브 아트’와 ‘네트워크 아트’는 물리적·사회적 매개체를 통해 다수의 인간이 공동으로 의미를 생산하는 사례로, 오늘날 알고리즘·데이터가 매개하는 협업과 구조적으로 유사하다. 따라서 ‘공동창작(co‑creation)’이라는 용어를 확대해, 인간‑인간 협업이 기술 매개체(알고리즘, 데이터셋, 인터페이스)를 통해 재구성되는 새로운 형태를 포괄하도록 제안한다.

핵심 통찰은 다음과 같다. 첫째, AI 기반 창작 도구는 단순히 ‘자동화’ 혹은 ‘자율성’으로 규정될 수 없으며, 설계·구현·운용 전 단계에 인간 행위자가 내재한다. 둘째, 인간‑기계 관계는 ‘협업’이라는 단일 프레임보다 ‘다중 행위자 네트워크’로 이해해야 한다. 셋째, 알고리즘과 데이터가 매개하는 인간‑인간 협업은 기존 예술 협업 이론과 연결돼, 새로운 공동창작 패러다임을 형성한다. 이러한 관점을 통해 연구자는 AI 창작 시스템을 사회적·문화적 책임을 지는 ‘기계 대리자’로 재정의하고, 향후 디자인·정책·윤리 논의에 실질적 토대를 제공한다.