데이터 준비 단계

초록

본 논문은 데이터 프로젝트에서 발생하는 품질·접근·윤리 문제를 체계적으로 진단하기 위해 “데이터 준비 단계(Data Readiness Levels)”라는 3단계(밴드 C, B, A) 프레임워크를 제안한다. 각 밴드는 데이터의 존재·접근성, 신뢰성·표현, 그리고 분석 목적과의 적합성을 순차적으로 평가하며, 하위 레벨(C4‑C1, B4‑B1, A4‑A1)로 세분화한다. 이를 통해 프로젝트 관리자는 데이터 준비 상태를 명확히 파악하고, 일정·예산·인력 배분을 보다 현실적으로 설계할 수 있다. 논문은 머신러닝 학회 논문집(PMLR) 재구축 사례를 통해 C‑레벨에서 B‑레벨, 최종적으로 A‑레벨까지 상승시키는 실제 비용과 작업량을 보여준다.

상세 분석

이 논문은 데이터 과학 프로젝트가 종종 “모델은 준비됐지만 데이터가 부족하다”는 전형적인 병목 현상에 직면한다는 점을 지적한다. 기존의 기술 준비도(Technology Readiness Levels, TRL)와 유사하게 데이터 준비도를 계층화함으로써, 데이터 자체를 독립적인 자산으로 평가할 수 있는 언어를 제공한다는 것이 핵심이다.

밴드 C는 데이터의 존재 여부와 접근성을 검증한다. C4는 ‘소문에 의한 존재’ 수준으로, 데이터가 실제로 기록되었는지, 어떤 포맷으로 저장돼 있는지, 법·윤리적 제약이 해소됐는지 등을 확인해야 한다. C1은 데이터가 기계가 읽을 수 있는 형태(예: CSV, 데이터베이스)로 변환되고, 개인정보 보호·저작권 이슈가 모두 해결된 상태다. 이 단계에서 “데이터 정제(data munging)”와 “데이터 랭글링(data wrangling)” 작업이 집중된다.

밴드 B는 데이터의 신뢰성·표현을 평가한다. 여기서는 결측치 처리, 오류 검증, 센서 노이즈 특성화, 단위 일관성, 데이터 수집 프로토콜의 무작위성·편향 여부 등을 점검한다. 또한 탐색적 데이터 분석(EDA)을 통해 시각화하고, 이해관계자에게 데이터 한계와 잠재적 편향을 전달한다. B1 단계에 도달하면 데이터가 원본과 일치하는지, 변형 과정에서 손실이 없었는지, 분석에 사용할 수 있는 충분한 메타데이터가 확보됐는지를 전문가가 확신할 수 있다.

밴드 A는 데이터와 분석 목적(태스크) 간의 적합성을 판단한다. 여기서는 데이터가 특정 비즈니스 질문이나 과학적 가설을 검증하기에 충분히 풍부하고, 필요한 경우 추가 라벨링·주석 작업이 수행됐는지를 검토한다. A1은 “데이터가 특정 태스크에 바로 적용 가능”한 상태이며, 동일 데이터라도 다른 태스크에 대해서는 B‑레벨 이하일 수 있음을 강조한다. 이는 통계적 설계 단계와 유사하게, 질문이 먼저 정의되고 그에 맞는 데이터가 수집·정제되는 순환 구조를 제시한다.

논문은 또한 데이터 레디니스 레벨 간 전이 비용을 정량화하려는 시도로, PMLR 논문집 재구축 사례를 제시한다. 기존 웹사이트에서 PDF·BibTeX 파일을 수집해 CSV 형태로 변환하고, pandas 로드까지 진행하는 과정이 C4→C1 단계에서 수 일·수십 시간의 인력 투입을 요구했으며, 이후 메타데이터 정제와 결측치 처리, 태스크 정의까지 진행하면서 B1·A1 단계에 도달했다는 구체적 커밋 로그와 작업량을 제시한다. 이를 통해 데이터 레디니스 레벨이 프로젝트 일정·예산·인력 계획에 미치는 영향을 실증적으로 보여준다.

이 프레임워크는 몇 가지 한계를 가진다. 레벨 정의가 다소 주관적이며, 분야별 특수성을 반영하기 위한 세부 지표가 부족하다. 또한 레벨 간 전이 비용을 정량화하기 위한 표준 메트릭이 제시되지 않아, 실제 프로젝트에 적용할 때는 조직마다 맞춤형 기준을 마련해야 한다. 그럼에도 불구하고, 데이터 준비 상태를 명시적으로 표현함으로써 프로젝트 관리자가 데이터 관련 리스크를 조기에 인식하고, 적절한 리소스를 할당할 수 있게 하는 점은 큰 장점이다.