프레이밍 편향을 넘어선 LLM 공정성 강화

초록

본 논문은 대형 언어 모델(LLM)이 동일한 의미를 가진 질문이라도 표현 방식(프레이밍)에 따라 편향된 답변을 내는 현상을 “프레이밍 불균형”으로 정의하고, 기존 공정성 평가와 디바이싱 기법이 이를 충분히 해결하지 못함을 실증한다. 이를 극복하기 위해 대안 프레이밍을 동시에 고려해 답변을 재조정하는 “DeFrame” 프레임워크를 제안하며, BBQ, DoNotAnswer, 70Decisions 등 3개 벤치마크에서 전체 편향 감소와 프레이밍 불균형 감소 모두에서 현저한 개선을 보였다.

상세 분석

DeFrame 논문은 LLM 공정성 연구에서 간과되기 쉬운 프레이밍 효과를 체계적으로 조명한다. 저자는 먼저 “프레이밍 불균형(Framing Disparity, FD)”이라는 정량적 지표를 정의한다. 이는 동일 스테레오타입을 긍정적(+)과 부정적(–) 두 가지 프레이밍으로 제시했을 때, 각각의 편향 점수 차이를 측정한다. 수식 (1)·(2)를 통해 모델 Mθ의 전체 편향 Bias(Mθ;P,ϕ)와 프레이밍별 편향 Bias(Mθ;P⁺,ϕ), Bias(Mθ;P⁻,ϕ)를 구하고, FD = Bias⁺ – Bias⁻ 로 정의한다. 절대값 |FD|는 프레이밍에 따른 편향 변동성을 한눈에 보여준다.

다음으로 저자는 기존 공정성 벤치마크인 BBQ, DoNotAnswer, 70Decisions를 각각 프레이밍 변형 버전으로 확장했다. BBQ는 긍정·부정 질문을 구분해 P⁺와 P⁻를 만든 뒤, 기존 편향 점수(1–accuracy)·편향 응답 수를 ϕ로 사용한다. DoNotAnswer‑Framed는 95개 스테레오타입 프롬프트를 LLM이 자동으로 반대 프레이밍으로 변환하고, 각 프레이밍을 4번씩 패러프레이징해 520개 입력을 만든 뒤, 유해 응답 비율(HRR)을 ϕ로 채택한다. 70Decisions‑Framed는 성·인종에 대한 이진 질문을 긍정·부정 프레이밍으로 쌍을 이루게 하여, 선호 결정(logit) 차이를 ϕ로 활용한다. 이러한 확장은 기존 평가가 단일 프레이밍에 의존해 숨겨진 편향을 놓치는 문제를 해결한다.

실험 결과, 8개 LLM(예: GPT‑4, LLaMA‑2, Qwen2.5 등) 모두 프레이밍에 따라 편향 점수가 크게 달라짐을 확인했다. 특히 BBQ에서는 부정 프레이밍에서 편향이 평균 2배, 최대 4배까지 증가했으며, 기존 디바이싱 기법(프롬프트 기반, 체인‑오브‑생각 등)은 전체 편향을 낮추지만 |FD|를 크게 감소시키지는 못했다. 이는 현재 디바이싱이 “프레임 평균”에만 최적화돼 프레이밍 민감성을 억제하지 못한다는 한계를 드러낸다.

DeFrame 프레임워크는 이러한 한계를 보완한다. 두 단계로 구성된다: (1) 초기 프레이밍(예: 긍정)으로 답변을 생성하고, (2) 반대 프레이밍을 모델에 제시해 “공정성 가이드라인”을 도출한다. 이후 두 답변을 비교·통합해 최종 응답을 산출한다. 이 과정은 인지심리학의 이중처리 이론(System 1 vs. System 2)을 모델링한 것으로, System 1 단계에서 발생할 수 있는 표면적 프레이밍 편향을 System 2 단계에서 의식적으로 교정한다.

DeFrame를 적용한 실험에서는 BBQ에서 |FD|가 평균 92%, 전체 편향 점수가 93% 감소했으며, DoNotAnswer‑Framed와 70Decisions‑Framed에서도 유사한 수준의 개선을 보였다. 특히, 기존 디바이싱이 오히려 프레이밍 불균형을 악화시킨 경우에도 DeFrame는 일관된 편향 감소를 달성했다. 추가적인 ablation 연구에서는 성공적 프롬프트 단계 수가 늘어날수록 프레이밍 안정성이 향상되지만 추론 비용도 증가한다는 비용‑성능 트레이드오프를 제시한다.

전체적으로 이 논문은 LLM 공정성 평가에 프레이밍 변수를 반드시 포함해야 함을 실증하고, 프레이밍 인식 디바이싱 기법인 DeFrame을 통해 전체 편향과 프레이밍 불균형을 동시에 감소시킬 수 있음을 보여준다. 향후 연구는 다중(비이진) 프레이밍, 도메인‑특화 프레이밍, 그리고 실제 서비스 환경에서의 실시간 프레이밍 교정 메커니즘으로 확장될 여지를 남긴다.