코드북 기반 연속 사용자 표현 CURP로 개인화 LLM 생성 최적화

초록

CURP는 양방향 사용자 인코더와 이산 프로토타입 코드북을 결합해 사용자를 다차원 특성의 희소 조합으로 표현한다. 20 M 파라미터(전체 모델의 0.2 %)만 학습하면 플러그인‑인 방식으로 LLM에 개인화 정보를 주입할 수 있다. 대규모 행동 데이터로 사전 구축한 코드북과 두 단계 학습 파이프라인을 통해 다양한 생성 과제에서 기존 프롬프트 기반·파라미터 튜닝 기반 방법보다 높은 품질과 일반화를 달성한다.

상세 분석

본 논문은 LLM 기반 사용자 시뮬레이션에서 “효율성 vs. 개인화 품질”이라는 근본적인 트레이드오프를 해소하고자 한다. 기존 비파라미터 방식은 프롬프트에 사용자 이력을 직접 삽입해 경량성을 확보하지만, 텍스트 노이즈와 컨텍스트 길이 증가로 인해 생성 품질이 저하된다. 반면 파라미터 튜닝 방식은 사용자별 어댑터나 임베딩을 학습해 높은 충실도를 얻지만, 수백만 명 규모의 사용자에 대해 각각 파라미터를 업데이트해야 하는 비용이 prohibitive하다. CURP는 이러한 양극단을 중간에 위치시키는 ‘프로토타입 기반 코드북’이라는 새로운 표현 방식을 제안한다.

핵심 설계는 세 부분으로 나뉜다. 첫째, 사전 학습된 양방향 인코더(E)로 사용자의 행동 히스토리를 고차원 dense 벡터로 변환한다. 여기서는 단순 평균 풀링을 사용해 노이즈를 억제하고, 텍스트 길이 의존성을 최소화한다. 둘째, 이 dense 벡터들을 Product Quantization(PQ)으로 L개의 서브스페이스로 분할하고, 각 서브스페이스마다 공유 코드북(C)에서 가장 가까운 프로토타입을 선택한다. 코드북은 1,000개의 엔트리로 구성되며, 균형 잡힌 k‑means와 다양성·사용률 손실(L_div, L_usage)을 통해 코드북 붕괴를 방지한다. 결과적으로 각 사용자는 ‘#청소년 + #신앙심 + #유머’와 같은 의미론적 라벨의 희소 조합으로 압축된다. 셋째, 양자화된 프로토타입 텐서를 다층 퍼셉트론(MLP)으로 LLM 디코더(D)의 임베딩 공간에 매핑하고, 이를 현재 쿼리 임베딩과 결합해 프롬프트에 삽입한다. 이 과정은 디코더를 고정한 채 진행되므로 모델‑아그노스틱하고, 클라우드‑엣지 협업 시 사용자 임베딩 대신 코드 인덱스만 전송해 프라이버시를 강화한다.

학습은 두 단계로 진행된다. PCC 단계에서는 대규모 행동 풀(≈150 k 사용자, 24 M 히스토리)에서 코드북을 구축한다. 여기서는 재구성 손실(L_quant)과 프로토타입 간 거리 손실(L_div), 사용률 손실(L_usage)을 가중합해 최적화한다. PBA 단계에서는 각 사용자별 히스토리를 양자화하고, MLP와 디코더를 통해 실제 응답(R)을 예측하도록 학습한다. 이때 LLM 자체는 동결돼 파라미터 효율성이 크게 향상된다.

실험에서는 텍스트 리뷰 생성, 대화 응답, 맞춤형 추천 설명 등 다양한 생성 태스크에 CURP를 적용했다. 평가 지표는 BLEU, ROUGE, GPT‑4 평가 점수 및 의미적 유사도(Embedding‑Similarity) 등을 포함한다. 결과는 동일한 파라미터 규모의 PEFT 기반 어댑터(LoRA 등)와 비교해 평균 3~5% 포인트 상승을 보였으며, 특히 데이터가 희소한 신규 사용자에 대해서도 코드북의 공유 특성 덕분에 강인한 일반화 능력을 나타냈다. Ablation 실험에서는 코드북 크기, 서브스페이스 수(L), 양자화 손실 가중치 등을 변형했을 때 성능 변동을 분석했으며, 적절한 K(≈1,000)와 L(≈4)가 최적의 균형을 제공한다는 결론을 도출했다.

이 논문의 주요 기여는 (1) 사용자 특성을 의미론적 프로토타입으로 구조화한 코드북 설계, (2) LLM 파라미터를 동결한 채 효율적인 개인화가 가능한 두 단계 학습 파이프라인, (3) 코드 인덱스 기반 전송을 통한 프라이버시 보호와 클라우드‑엣지 협업 가능성 제시이다. 향후 연구에서는 코드북을 멀티모달(이미지, 음성) 행동에 확장하고, 동적 프로토타입 업데이트 메커니즘을 도입해 시간에 따라 변하는 사용자 선호를 지속적으로 반영하는 방향이 기대된다.