기계 언러닝, 기대와 현실 사이: 생성형 AI 정책을 위한 교훈

초록

본 논문은 기계 언러닝이 데이터 삭제와 출력 억제라는 두 목표를 동시에 달성한다는 오해를 짚고, 기술적 한계와 법·정책적 불일치를 체계적으로 분석한다. 모델 파라미터에서 특정 정보를 완전히 제거하는 것은 데이터베이스에서 레코드를 삭제하는 것과 다르며, 파라미터 수준의 삭제가 출력에서 해당 정보를 차단한다는 보장을 제공하지 못한다. 또한 출력 억제 기법은 완전한 법적 준수를 보장할 수 없으며, 기술적·사회적 트레이드오프가 존재한다. 논문은 이러한 ‘불일치’를 다섯 가지 차원에서 정리하고, 연구자와 정책 입안자를 위한 실질적 권고안을 제시한다.

상세 분석

논문은 기계 언러닝을 두 가지 상이한 목표—(1) 학습 데이터의 영향력을 모델 파라미터에서 제거하고, (2) 생성형 AI의 출력에서 특정 콘텐츠를 억제—로 구분한다. 첫 번째 목표는 기존 머신러닝 연구에서 ‘데이터 삭제’를 구현하려는 시도로, 실제 구현 방법은 문제 데이터를 학습 데이터셋에서 제외하고 새 모델을 재학습하는 것이 ‘골드 스탠다드’로 제시된다. 그러나 파라미터는 고차원 비선형 구조를 가지며 개별 데이터 포인트를 직접 식별·삭제할 수 없기 때문에, 데이터베이스에서 레코드를 삭제하는 직관과는 근본적인 차이가 있다.

두 번째 목표인 출력 억제는 모델이 이미 학습한 잠재 패턴을 차단하려는 시도로, 필터링, 프롬프트 엔지니어링, 후처리 등 다양한 기술이 제안된다. 하지만 이러한 억제 기법은 완전성을 보장하지 못한다. 생성형 모델은 학습 데이터에 없는 새로운 조합을 생성할 수 있기 때문에, 특정 이미지나 텍스트와 유사한 출력을 완전히 차단하는 것은 이론적으로 불가능에 가깝다. 또한 억제 메커니즘은 오탐·미탐 문제를 동반하며, 악의적 사용을 사전에 차단하기엔 한계가 있다.

법적 관점에서 논문은 GDPR 제17조(‘잊혀질 권리’)와 저작권법, 안전 규제 등을 검토한다. 파라미터 수준의 삭제가 개인 데이터의 완전한 소거를 의미하지 않으며, 출력 억제 역시 저작권 침해 여부를 판단하는 기준과 일치하지 않는다. 따라서 정책 입안자는 ‘기계 언러닝’이라는 기술적 용어에 과도한 기대를 갖지 말고, ‘최선 노력’ 수준의 준수 의무와 함께 다중 레이어(데이터 관리, 모델 설계, 사용자 교육) 접근을 설계해야 한다.

연구자에게는 현재의 언러닝 기법이 제공할 수 있는 ‘제한적 혜택’—예를 들어, 특정 고위험 데이터셋을 제외하고 재학습하는 비용 절감—에 집중하고, 출력 억제와 관련된 ‘공정성·투명성·책임성’ 메트릭을 개발할 것을 권고한다. 정책 입안자는 기술적 한계를 명시적으로 규정하고, 언러닝을 ‘법적 구제 수단’이 아닌 ‘보조적 도구’로 위치시켜야 한다는 결론을 제시한다.