공정성과 정확도의 균형을 위한 새로운 알고리즘 선택 프레임워크

초록

본 논문은 인공지능 모델의 공정성과 정확도 사이의 상충 관계를 해결하기 위해, 기존의 모델 내부 하이퍼파라미터 최적화(Vertical Search)를 넘어 다양한 모델 군(Model Families)을 비교하는 ‘수평적 탐색(Horizontal Search)’ 프레임워크를 제안합니다. 저자들은 2021년 주택담보대출 공개법(HMDA) 데이터를 활용하여, 자원이 제한된 실제 환경에서도 차별을 최소화하는 알고리즘(LDA)을 효율적으로 선택할 수 있는 관계적 탐색 방법론을 제시합니다.

상세 분석

본 연구의 핵심적인 기술적 통찰은 모델 선택의 패러다임을 ‘수학적 최적화’에서 ‘관계적 탐색’으로 전환했다는 점에 있습니다. 기존의 머신러닝 공정성 연구는 특정 모델의 하이퍼파라미터를 조정하여 공정성 지표를 개선하는 ‘수직적 탐색(Vertical Search)‘에 집중해 왔습니다. 그러나 이러한 방식은 모델의 구조적 한계 내에서만 해법을 찾으려 한다는 문제점이 있습니다. 저자들은 ‘모델 다중성(Model Multiability)’ 개념을 도입하여, 성능(Accuracy)이 유사하더라도 모델의 구조(Architecture)에 따라 공정성(Fairness) 특성이 판이하게 나타날 수 있음을 지적합니다.

기술적으로 주목할 점은 ‘수평적 탐색(Horizontal Search)‘의 제안입니다. 이는 단일 모델의 파라미터를 미세 조정하는 대신, 서로 다른 알고리즘 군(예: 로지스틱 회귀, 트리 기반 모델, 신경망 등)을 비교 대상으로 삼는 방식입니다. 이러한 접근은 두 가지 측면에서 강력한 이점을 가집니다. 첫째, 계산 비용의 효율성입니다. 복잡한 하이퍼파라미터 튜닝 없이도 모델 군 간의 비교만으로도 유의미한 공정성 개선을 이끌어낼 수 있어, 자원이 제한된 기업 환경에서 ‘최소 실행 가능한(Minimum Viable)’ 공정성 확보 전략이 될 수 있습니다. 둘째, 법적·윤리적 정당성 확보입니다. 저자들은 법학적 개념인 ‘덜 차별적인 알고리즘(LDA)‘을 모델 선택의 기준으로 삼아, 알고리즘 선택을 단순한 기술적 결정을 넘어 사회적 책임과 시민권 보호의 의무로 격상시켰습니다. 2021년 HMDA 데이터를 통한 검증은 이 프레임워크가 실제 금융 대출 데이터의 편향성을 완화하는 데 실질적인 효용이 있음을 입증하며, 단순한 지표 비교를 넘어 맥락적(Contextualized)인 의사결정 구조를 제안하고 있습니다.

인공지능(AI) 기술이 금융, 채용, 사법 등 고위험 의사결정 영역에 깊숙이 침투함에 따라, 모델의 ‘정확도’와 ‘공정성’ 사이의 상충 관계(Trade-off)를 어떻게 관리할 것인가가 현대 사회의 핵심 과제로 부상했습니다. 본 논문은 기존의 공정성 접근 방식이 가진 한계를 지적하며, 이를 해결하기 위한 새로운 ‘관계적 탐색 프레임워크’를 제안합니다.

기존 연구들의 주된 한계는 공정성을 모델 내부의 정적인 수학적 속성으로만 취급했다는 점입니다. 즉, 하나의 모델을 정해놓고 하이퍼파라미터를 조정하여 공정성 지표를 높이려는 ‘수직적 최적화’에 매몰되어 있었습니다. 이러한 방식은 모델이 가진 근본적인 편향성을 극복하기 어렵고, 방대한 계산 자원을 요구한다는 단점이 있습니다. 또한, 동일한 정확도를 유지하면서도 훨씬 더 공정한 성능을 낼 수 있는 다른 유형의 모델이 존재할 수 있다는 ‘모델 다중성’의 가능성을 간과해 왔습니다.

이러한 문제를 해결하기 위해 본 논문은 법학적 개념인 ‘덜 차별적인 알고리즘(Less Discriminatory Algorithms, LDA)‘의 관점을 도입합니다. LDA는 모델 선택을 단순한 성능 최적화 문제가 아닌, 차별을 방지해야 하는 법적·윤리적 의무로 규정합니다. 저자들은 이를 실현하기 위한 방법론으로 ‘수평적 탐색(Horizontal Search)‘을 제안합니다. 이는 특정 모델의 파라미터를 튜닝하는 대신, 서로 다른 알고리즘 패밀리(Model Families)를 비교하여 공정성과 정확도의 최적 조합을 찾는 방식입니다.

연구진은 2021년 주택담보대출 공개법(HMDA) 데이터를 활용하여 이 프레임워크의 실효성을 검증했습니다. 실험 결과, 모델 군 간의 수평적 비교를 수행하는 것만으로도, 막대한 자원을 투입하는 하이퍼파라미터 최적화에 필적하는 수준의 공정성 개선 효과를 거둘 수 있음을 확인했습니다. 특히, 자원과 실험 환경이 제한된 실제 산업 현장에서 이 방식은 매우 ‘경량화된(Lightweight)’ 동시에 효과적인 대안이 될 수 있습니다.

결론적으로, 본 논문은 공정성 지표라는 단일한 수치에 의존하기보다는, 모델 간의 관계적 특성을 고려한 체계적인 비교 프로세스가 필요함을 강조합니다. 제안된 프레임워크는 기업이나 규제 기관이 각 산업의 특성과 규제 표준, 그리고 가용 자원을 고려하여, 정확도를 유지하면서도 사회적 차별을 최소화할 수 있는 최적의 알고리즘을 선택할 수 있는 실무적인 가이드라인을 제공합니다. 이는 AI의 사회적 신뢰성을 높이는 데 있어 매우 중요한 기술적, 정책적 이정표가 될 것입니다.