공정성을 위한 작업 산술 작업 벡터의 역할

초록

본 논문은 작업 벡터를 이용한 모델 편집 기법인 작업 산술이 기존의 전미세 미세조정(FFT)과 LoRA에 비해 정확도는 유지하면서 그룹 공정성 지표인 인구통계적 평등(DPD)과 동등한 기회(EOD)를 개선할 수 있음을 실증한다. 스케일링 및 서브그룹별 벡터 병합을 통해 공정성-성능 트레이드오프를 정량적으로 제어하고, 작업 벡터 스케일과 공정성 지표 사이의 이론적 상한을 제시한다.

상세 분석

논문은 먼저 작업 벡터를 “기본 모델 파라미터와 해당 작업에 대해 미세조정된 파라미터의 차이”로 정의하고, 이를 가중치 공간에서 선형 연산(덧셈, 뺄셈, 스칼라 스케일링)으로 모델 행동을 직접 편집하는 방법을 제시한다. 핵심 아이디어는 단일 스칼라 λ를 전체 벡터에 곱해 적용함으로써, 편집 강도를 미세하게 조절하고, 서브그룹별 작업 벡터를 선형 결합해 특정 인구통계 집단에 대한 성능을 강화하거나 약화시킬 수 있다는 점이다.

실험은 텍스트와 이미지 두 도메인에서 진행된다. 텍스트에서는 LLaMA‑7B와 DistilBERT/Qwen2.5‑0.5B를 사용해 혐오 발언 및 독성 검출 과제를 수행하고, 이미지에서는 ViT‑Base/16을 이용해 연령 분류(30세 기준) 작업을 수행한다. 각 데이터셋은 성별(남·여·논바이너리·트랜스 등)과 인종(아시아·흑인·라틴·중동·기타 등) 서브그룹으로 라벨링되어 있어, 그룹별 정확도와 DPD, EOD를 동시에 측정할 수 있다.

비교 대상은 전미세 미세조정(FFT), LoRA, 그리고 제안된 작업 벡터 편집(단일 λ 스케일링 및 서브그룹 벡터 병합)이다. 결과는 다음과 같다. (1) 작업 벡터에 λ≈0.5~0.8을 적용하면 전체 정확도는 FFT와 거의 동일하거나 약간 감소하지만, DPD와 EOD가 현저히 감소한다. (2) 서브그룹별 작업 벡터를 가중합(예: 소수 집단에 높은 λ, 다수 집단에 낮은 λ)하면 특정 소수 집단의 오류율을 크게 낮추면서 전체 성능 손실을 최소화한다. (3) 단순 벡터 합산은 “네거티브 전이” 현상을 일으킬 수 있어, 서브그룹 간 상충이 발생하지만, 적절한 λ 튜닝으로 이러한 부작용을 억제할 수 있다.

이론적 기여로는 작업 벡터 스케일 λ와 DPD/EOD 사이의 상한을 도출하였다. 구체적으로, 파라미터 변화가 출력 로그잇 확률에 미치는 1‑Lipschitz 연속성을 가정하고, λ가 증가할수록 그룹 간 선택율 차이가 선형적으로 확대된다는 식을 제시한다. 이는 실험에서 관찰된 공정성‑성능 트레이드오프를 정량적으로 설명한다.

또한, 저자는 작업 벡터 편집이 기존 PEFT(LoRA 등)보다 구현이 간단하고, 사후 편집 단계에서 추가 학습 비용이 거의 들지 않으며, 모델 해석성(특정 벡터가 어느 서브그룹에 대응하는지 시각화 가능)도 제공한다는 실용적 장점을 강조한다. 한계점으로는 현재 이진 분류와 다중 그룹 설정에만 검증했으며, 다중 라벨·생성 모델에 대한 확장은 추후 연구 과제로 남겨두었다.