금융 AI의 설명가능성 트릴레마: 정확도·규제·비용·속도와의 복합적 균형

초록

본 논문은 금융 분야에서 AI 모델을 도입할 때 ‘정확도‑설명가능성‑규제‑비용‑속도’ 다섯 가지 요소가 어떻게 상호작용하는지를 실증적으로 탐구한다. 20명의 금융 실무자·규제자를 대상으로 한 반구조화 인터뷰 결과, 정확도와 규제 준수는 ‘위생 요인’으로서 필수적이며, 비용과 속도는 실행 가능성을 좌우하는 제약 조건, 설명가능성은 채택 여부를 결정짓는 관문으로 작용한다는 새로운 트릴레마 모델을 제시한다.

상세 분석

이 연구는 기존 XAI 문헌이 제시하는 “정확도‑설명가능성” 이진 트레이드오프를 넘어, 금융 산업 특유의 규제 강도와 운영 요구사항을 포함한 다중 요인 프레임워크를 구축한다. 방법론적으로는 질적 코딩과 주제 분석을 결합한 혼합형 분석을 사용했으며, 인터뷰 대상자는 대형 은행·핀테크·감독기관 등 다양한 이해관계자를 포함해 대표성을 확보하였다. 결과는 네 가지 핵심 인사이트로 요약된다. 첫째, 정확도와 규제 준수는 ‘비협상적 요인’으로, 어느 정도의 설명가능성을 제공하더라도 이 두 요소가 충족되지 않으면 AI 도입 자체가 위험으로 간주된다. 둘째, 비용과 속도는 ‘운영 레버’로 작용해, 동일한 정확도·규제 수준이라도 비용 효율성이 낮거나 지연이 큰 모델은 실무에서 배제된다. 셋째, 설명가능성은 ‘채택 관문’으로, 사용자가 모델 결과를 이해하고 내부·외부 감사에 활용할 수 있을 때만 실제 업무에 통합된다. 넷째, 설명가능성 자체가 기술적·조직적 차원에서 다층적으로 구현돼야 함을 강조한다. 즉, 모델 레이어에서의 해석 가능성(ante‑hoc, post‑hoc)뿐 아니라, 의사결정 지원 시스템(DSS) UI, 기업 아키텍처, 그리고 규제·고객 커뮤니케이션 단계까지 일관된 설명 흐름이 필요하다. 이러한 통합적 관점은 기존 XAI 연구가 주로 모델‑레벨에 머무는 한계를 극복하고, 금융 조직 내 ‘시스템‑레벨 XAI’ 설계 지침을 제공한다. 또한, 규제 당국이 설명가능성 요구를 구체화할 때, 단순히 “왜”가 아니라 “어떻게”와 “누구에게” 전달되는지를 명시하도록 촉구한다.