다자간 계산으로 구현하는 고위험 채용 AI 공정성 사후 감시

초록

**
본 논문은 EU AI 법과 GDPR을 준수하면서, 민감한 개인 정보를 노출하지 않고 채용 AI의 공정성을 지속적으로 평가할 수 있는 다자간 계산(MPC) 기반 프로토콜을 설계·검증한다. 법·산업·기술 전문가가 공동으로 도출한 설계 요구사항을 바탕으로 데이터 수집·암호화·공정성 지표 계산·시각화까지 전 과정을 포괄하는 엔드‑투‑엔드 시스템을 구현하고, 대규모 유럽 채용 플랫폼에 적용해 실용성을 입증하였다.

**

상세 분석

**
이 연구는 고위험 AI 시스템에 대한 EU AI법·GDPR의 엄격한 규제를 기술적 해결책과 연결시키는 데 초점을 맞춘다. 먼저, 사후 공정성 모니터링이 민감 속성(인종·성별·성적 지향 등)에 대한 접근을 필요로 하지만, GDPR 제9조가 이러한 ‘특수 범주 데이터’를 기본적으로 금지한다는 법적 딜레마를 명확히 제시한다. 기존의 차등 프라이버시(DP) 방식은 노이즈 삽입으로 통계적 정확도를 저하시킬 위험이 있어, 데이터 샘플이 제한적인 채용 분야에 부적합할 수 있다. 이에 저자들은 데이터 정확성을 유지하면서도 개인 정보를 완전히 보호할 수 있는 다자간 계산(MPC)을 선택한다.

MPC 설계는 두 가지 핵심 요소로 나뉜다. 첫째, 데이터 제공자(채용 플랫폼)와 신뢰된 제3자(TTP) 간의 비밀 공유와 암호화 단계이다. 여기서 각 파티는 민감 속성을 비밀 공유(secret‑sharing) 방식으로 분할하고, 암호화된 형태로 저장·전송한다. 둘째, 암호화된 입력을 기반으로 공정성 지표(예: 디스퍼전, 균형 정확도, 그룹별 선택률)를 계산하는 프로토콜이다. 저자들은 기존 MPC 프레임워크(예: SPDZ, ABY)를 확장해, 다중 그룹과 연속적인 모니터링 요구를 충족하도록 설계했으며, 특히 계산 효율성을 위해 선형 회귀와 부등식 검증을 오프라인 사전 처리 단계에서 수행하도록 최적화했다.

법적·산업적 요구사항을 반영한 설계는 네 가지 축으로 정리된다. (1) 데이터 최소화와 목적 제한을 만족하는 최소한의 데이터 수집·암호화, (2) 공정성 지표의 정확성을 보장하는 무노이즈 계산, (3) 사용자가 이해하기 쉬운 대시보드와 알림 메커니즘을 제공하는 사용성, (4) 실시간 혹은 배치 방식의 확장 가능한 실행 환경. 특히, TTP가 민감 데이터를 직접 수집·보관함으로써 고용주와 후보자 간의 권력 불균형을 완화하고, ‘자유로운 동의’ 요건을 법적으로 충족하도록 설계했다.

실증 검증에서는 10 만 명 이상의 후보자와 6 천 개 기업 데이터를 보유한 유럽 대형 채용 플랫폼에 프로토콜을 적용했다. 실험 결과, MPC 기반 지표는 DP 기반 대비 평균 12 % 높은 정확도를 보였으며, 전체 프로토콜의 평균 지연시간은 3.2 초(그룹당 5 천 건)로 실시간 모니터링에 충분히 근접했다. 또한, 법무팀은 GDPR·AI법에 대한 적합성 평가에서 ‘데이터 최소화·암호화·목적 제한’ 요건을 모두 충족한다는 결론을 내렸다.

이 논문은 기술적 설계와 법적 해석을 동시에 수행한 최초의 사례로, 고위험 AI 시스템에 대한 사후 공정성 감시를 실무에 적용할 수 있는 구체적 로드맵을 제시한다. 향후 연구는 다자간 계산을 다른 프라이버시 기술(예: 동형암호)과 결합하거나, 비유럽권 규제와의 호환성을 검토하는 방향으로 확장될 수 있다.

**