규범 선택: 의사결정의 새로운 공리적 프레임워크

초록

본 논문은 기존 사회 선택 이론이 다루는 한정된 공리들을 넘어, 의사결정 과정과 결과 모두를 규정할 수 있는 ‘공리 선택(Axiomatic Choice)’이라는 일반화된 형식 체계를 제안한다. 결정, 규칙, 프로파일, 결과를 형식화하고, 공리를 구조별로 분류한 뒤, 강제성(Forcing) 공리와 그에 따른 ‘결정‑평가 역설(Decision‑Evaluation Paradox)’을 정의한다. 또한 투명성·기만성 개념을 정량화하고, 기존 공리 기반 방법론의 한계를 이론적으로 밝힌다.

상세 분석

논문은 먼저 X와 Y라는 비공집합을 정의하고, 모든 결정 함수를 F에 포함시켜 (프로파일, 규칙, 결과) 삼중항 D를 결정의 기본 단위로 설정한다. 이때 프로파일은 입력, 규칙은 함수, 결과는 출력으로 해석된다. 공리 A는 D를 {0,1}으로 분할하는 함수이며, 공리를 만족하는 결정 집합 L⊆D으로 완전히 기술할 수 있다. 저자는 공리를 ‘구조적(Structural)’, ‘절차적(Procedural)’, ‘결과주의(Consequentialist)’, ‘블랙박스(Blackbox)’, ‘인과(Caudal)’, ‘강제(Exigent)’ 등 여섯 가지 유형으로 분류한다. 구조적 공리는 특정 프로파일 집합 X′에 대해만 만족을 정의하고, 절차적 공리는 규칙 집합 F′에, 결과주의 공리는 결과 집합 Y′에 초점을 둔다. 블랙박스 공리는 (프로파일, 결과) 쌍 B⊆X×Y 로 정의되며, 인과 공리는 (규칙, 결과) 쌍 C⊆F×Y 로 정의한다. 강제 공리는 모든 프로파일에 대해 단일 결과 y를 강제하는 특수한 경우이며, 이는 암묵적으로 하나의 규칙 f를 내포한다.

핵심 정리는 ‘강제 공리의 구현(paradox)’이다. 강제 공리 A가 존재하면, 그 공리의 블랙박스 축소 A_B는 고유한 규칙 f_B를 유도한다(Procedural Extension). 그러나 이 규칙 f_B를 실제 의사결정에 적용해도 원래 강제 공리 A를 만족하지 않을 수 있다. 이는 ‘결정‑평가 역설’이라 명명되며, 특히 인과 및 강제 공리에서 발생한다. 반면, 순수 블랙박스 혹은 절차적 강제 공리에서는 역설이 발생하지 않는다. 저자는 이를 정리한 두 정리를 제시하고, 강제 공리와 블랙박스·절차적 공리의 조합이 어떻게 새로운 인과·강제 공리를 생성하는지 설명한다.

또한 투명성은 규칙 f와 공리 A 사이의 확장적 동등성(extensional equivalence) 여부로 정의되고, 기만성은 의사결정자가 규칙을 공개하면서 실제 적용되는 공리와 불일치할 때 발생한다는 형식적 정의를 제공한다. 이를 통해 기존 연구가 공리만을 평가 도구로 사용했을 때 발생하는 설명 가능성의 한계를 지적한다. 마지막으로, 사회 선택 이론의 아로우 불가능성(Arrovian impossibility)과 연결해, 여러 공리를 동시에 만족시키는 규칙이 존재하지 않을 경우 의사결정 과정 자체가 불가능(impasse)해질 수 있음을 보인다.

이러한 이론적 틀은 RLHF와 같은 인간‑피드백 기반 학습에서도, 피드백을 단순 선호 순서가 아니라 다층 공리 형태로 구조화함으로써 가치 충돌을 보다 정밀하게 모델링하고, 다양한 이해관계자의 규범을 집계할 수 있는 기반을 제공한다.