AI 개발 현장의 목소리: 실무자가 말하는 공정성 요구사항의 도전과제

초록

본 연구는 23개국 26명의 AI 실무자를 대상으로 한 심층 인터뷰를 통해 소프트웨어 개발 생명 주기(SDLC) 내 AI 공정성 요구사항의 인식, 정의, 운영화 현황을 분석했다. 연구 결과, 실무자들은 공정성의 중요성을 인지하고 있으나, 일관된 실천이 부재하며, 맥락에 맞는 정의와 평가 지표의 부재, 다른 우선순위(예: 일정, 기능성)와의 트레이드오프 속에서 공정성이 종종 후순위로 밀리는 등의 도전과제를 확인했다. 이를 해결하기 위해 이해관계자 간의 명확한 공정성 정의 합의, 공식화된 프로세스 도입의 필요성이 강조되었다.

상세 분석

본 논문은 AI 공정성 연구를 이론적·알고리즘적 차원을 넘어 소프트웨어 공학의 실천적 관점에서 접근한 점에서 의미가 깊다. 핵심 기술적 분석과 통찰은 다음과 같다.

첫째, 공정성 정의의 다원성과 운영화의 난제를 지적한다. 연구는 통계적 패리티, 평등화 기회, 인과적 공정성 등 다양한 정의가 존재하며, 이들은 서로 충돌(impossibility theorem)할 수 있음을 언급한다. 실무에서의 근본적 문제는 이러한 추상적 개념을 ‘행동 가능한 요구사항’으로 변환하는 데 있다. 예를 들어, “대출 승인 시스템은 공정해야 한다"는 모호한 요구사항은 어떻게 측정하고 검증할지에 대한 지침이 없어 개발자를 당황하게 만든다.

둘째, SDLC 전주기에 걸친 공정성 통합의 부재를 확인했다. 이상적인 ‘공정성 by 디자인’ 접근법(데이터 전처리, 공정성 인지 모델 설계, 사후 평가)과 달리, 실무에서는 공정성 고려가 특정 단계(주로 테스트)에 편중되거나, 프로젝트 후반부로 미루어지는 경우가 많았다. 이는 공정성을 비기능적 요구사항으로 인식하지 못하거나, 조기에 식별하기 위한 방법론과 도구가 부재하기 때문이다.

셋째, 트레이드오프 관리의 현실적 어려움을 부각시킨다. 연구는 공정성이 모델 정확도(효율성), 보안, 사용자 경험, 그리고 가장 압도적으로 엄격한 프로젝트 일정과 충돌하는 상황을 보여준다. 비즈니스 목표가 최우선시되는 환경에서 공정성은 ‘있으면 좋은’ 선택 사항으로 전락할 위험이 크다.

넷째, 도전과제의 근원이 기술적 이상 조직적·인적 요인에 있음을 시사한다. 데이터 편향, 알고리즘 복잡성과 더불어, 관련 지식 부재, 팀 내 다양성 결여, 명확한 책임소재 미비, 그리고 이해관계자(경영진, 법무, 엔지니어링) 간 소통 및 목표 불일치가 공정성 실천을 가로막는 주요 장애물로 확인되었다.

종합하면, 이 연구는 AI 공정성의 실현이 단일 기술 솔루션이 아닌, 맥락적 정의 합의, 조기 SDLC 통합을 위한 공식 프로세스, 조직 문화 및 인센티브 구조 재설계를 포함한 종합적 접근이 필요함을 강력히 시사한다.