인공지능 시대 장애인 공정성 탐구

초록

본 논문은 인공지능·머신러닝이 사회 전반에 미치는 영향 속에서 장애인의 공정한 대우가 어떻게 변질될 수 있는지를 고찰한다. 장애는 매우 다양하고 개인별 적응 방식이 다르며, 장애 정보는 차별 위험 때문에 공유가 꺼려진다. 이러한 특성을 고려해 기존 공정성 정의를 재검토하고, 장애인에 특화된 공정성 접근법을 제안한다.

상세 분석

논문은 먼저 장애와 기존 보호 속성(연령·성별·인종) 사이의 근본적인 차이를 세 가지 축으로 정리한다. 첫째, 장애는 신체·인지·감각 등 다차원적 스펙트럼을 이루며, 동일 장애라도 개인마다 기능 수준과 보조기구 사용 여부가 크게 다르다. 이는 데이터 표본화 단계에서 “장애 여부”라는 이진 라벨만으로는 충분히 표현되지 않으며, 라벨링 오류와 편향을 야기한다. 둘째, 장애는 사회적·환경적 요인에 의해 크게 변동한다. 접근성 설계, 보조기술 보급, 직장 내 지원 정책 등에 따라 동일 개인의 기능적 제한이 크게 달라질 수 있다. 따라서 정적 모델이 아닌 상황‑맥락 인식 모델이 필요하다. 셋째, 장애 정보는 민감도와 차별 위험 때문에 개인이 자발적으로 제공하지 않을 가능성이 높다. 이는 데이터 수집 단계에서 결측이 빈번히 발생함을 의미하며, 결측 메커니즘이 ‘Missing Not At Random’일 가능성이 크다. 이러한 특성은 기존 공정성 메트릭(예: demographic parity, equalized odds)이 장애인에게 적용될 때 왜곡을 초래한다.

다음으로 논문은 주요 공정성 정의를 장애 맥락에 맞춰 재해석한다. ‘동등 기회(equal opportunity)’는 동일한 작업 성과를 위해 동일한 지원을 제공한다는 의미가 아니라, 개별 장애 유형과 보조기술 사용 여부에 따라 맞춤형 지원을 제공함을 뜻한다. ‘그룹 공정성(group fairness)’은 장애인 전체를 하나의 동질 집단으로 보는 것이 아니라, 장애 유형·심각도·보조기술 사용 여부 등 하위 그룹을 세분화해 각각의 차별 지표를 별도로 검증해야 함을 강조한다. 또한 ‘개인 공정성(personal fairness)’은 동일한 개인이 시간에 따라 변화하는 기능 수준을 반영해 모델이 지속적으로 재학습하고, 개인 맞춤형 피드백 루프를 구축해야 함을 제시한다.

실제 적용 사례로는 채용 자동화, 신용 평가, 의료 진단 지원 시스템을 들며, 각각의 사례에서 장애 정보의 결측, 라벨링 편향, 보조기술 효과를 어떻게 보정할 수 있는지 구체적인 방법론을 제시한다. 예를 들어, 채용 시스템에서는 ‘보조기술 사용 여부’를 별도 특성으로 포함하고, 모델 훈련 시 ‘adversarial debiasing’ 기법을 적용해 장애와 무관한 예측을 유도한다. 신용 평가에서는 ‘소득·고용 안정성’ 등 장애와 직접 연관되지 않은 변수만을 사용하고, 차별 위험이 높은 변수는 사전 검증 후 제외한다. 의료 진단에서는 시각·청각 장애 환자를 위한 멀티모달 입력(텍스트·음성·이미지)과 보조기술 적용 효과를 정량화해 모델에 반영한다.

마지막으로 논문은 정책적·기술적 권고안을 제시한다. 데이터 수집 단계에서 ‘장애 친화적 설문’과 ‘익명화된 장애 라벨링’ 프로토콜을 도입하고, 모델 개발 단계에서는 ‘다중공정성 검증 파이프라인’을 구축한다. 또한, 지속적인 모니터링을 위해 ‘공정성 대시보드’를 운영하고, 이해관계자(장애인 단체·법률 전문가·AI 개발자)와의 협업을 통한 피드백 루프를 강조한다. 이러한 접근은 단순히 차별을 방지하는 수준을 넘어, 장애인의 사회적 참여와 자율성을 증진시키는 방향으로 AI 시스템을 설계하도록 유도한다.