인과관계 기반 프롬프트 최적화: 대규모 언어 모델을 위한 새로운 패러다임

초록

본 논문은 프롬프트 설계 문제를 인과 추정 문제로 재구성하고, 이중 머신러닝(DML) 기법을 활용해 프롬프트와 질의의 혼동 요인을 분리한다. 학습된 인과 보상 모델을 이용해 온라인 호출 없이도 질의별 최적 프롬프트를 효율적으로 탐색함으로써, 기존 방법보다 높은 정확도와 비용 효율성을 달성한다.

상세 분석

CPO(인과 프롬프트 최적화)는 크게 두 단계로 구성된다. 첫 번째 단계에서는 프롬프트와 질의를 각각 의미론적 임베딩으로 변환하고, 이 임베딩을 특성으로 사용해 이중 머신러닝(Double Machine Learning, DML) 프레임워크를 적용한다. DML은 프롬프트 변이(promotion)와 질의 특성(confounder)을 각각 예측하는 두 개의 ‘nuisance’ 모델을 학습한 뒤, 잔차를 이용해 조건부 평균 처리 효과(CATE)를 추정한다. 이를 통해 “프롬프트를 바꾸면 성능이 어떻게 변하는가”라는 인과적 질문에 대한 편향 없는 추정치를 얻는다. 기존의 보상 모델이 단순히 과거 로그의 상관관계에 의존해 프롬프트 효과를 과대·과소 평가하는 문제를 근본적으로 해결한다는 점이 핵심이다.

두 번째 단계에서는 이렇게 얻은 인과 보상 모델을 ‘가상 평가기’로 활용한다. 후보 프롬프트 집합을 생성할 때는 LLM 자체를 이용해 의미적 변형을 제안하거나, 규칙 기반 변형(예: 제약 강화, 서술 구조 변경) 등을 적용한다. 각 후보는 실제 LLM 호출 없이 인과 보상 모델에 입력되어 예상 성능 점수를 부여받으며, 이 점수를 기준으로 탐색 알고리즘(예: 베이지안 최적화, 진화적 전략)에서 선택·진화가 이루어진다. 결과적으로 온라인 비용이 크게 절감되고, 탐색 범위가 넓어져 복잡하고 어려운 질의에 대해서도 강인한 프롬프트를 발견할 수 있다.

실험에서는 수학 추론(MATH), 시각화(Viseval), 데이터 분석(DABench) 등 서로 다른 도메인과 난이도 프로파일을 가진 세 가지 벤치마크를 사용했다. CPO는 인간이 설계한 정적 프롬프트와 최신 APO 기법(PromptBreeder, TextGrad, Reflection 등)을 모두 능가했으며, 특히 최고 난이도 서브셋에서 성능 격차가 두드러졌다. 인과 보상 모델 자체도 비인과적 예측 모델에 비해 실제 프롬프트 순위와의 상관계수가 크게 높아, 인과 추정이 실제 효과를 더 정확히 포착함을 입증한다.

추가적인 분석으로는 (1) 인과 보상 모델을 비인과 모델로 교체했을 때 최적화 성능이 급격히 하락함을 보여 인과적 분리가 핵심임을 확인했으며, (2) 프롬프트 임베딩의 주성분이 ‘제약 강도’, ‘구조적 프레이밍’, ‘가이드 스타일’ 등 인간이 직관적으로 이해 가능한 설계 요소와 일치함을 시각화했다. 마지막으로 데이터 규모가 증가할수록 인과 보상 모델의 순위 정확도와 최적화 성능이 지속적으로 향상되는 ‘스케일링 효과’를 관찰했으며, 이는 기업이 축적하는 로그 데이터를 점진적으로 활용해 프롬프트 최적화를 강화할 수 있음을 시사한다.

요약하면, CPO는 프롬프트 설계를 인과 추정 문제로 전환함으로써 기존 APO가 안고 있던 편향과 비용 문제를 동시에 해결한다. 인과 보상 모델은 질의 특성을 효과적으로 제어해 진정한 프롬프트 효과만을 측정하고, 이를 기반으로 한 검색은 온라인 호출 없이도 고품질, 질의 맞춤형 프롬프트를 찾아낸다. 이러한 접근은 대규모 언어 모델을 기업 업무에 안정적으로 적용하려는 조직에게 비용 효율적이며 확장 가능한 솔루션을 제공한다.