코드믹스 마스터: 대형 언어모델을 위한 실전 가이드

초록

본 논문은 대형 언어모델(LLM)에서 코드‑믹싱·코드‑스위칭(CSW) 문제를 체계적으로 정리하고, 데이터 구축, 모델링, 프롬프트 설계, 평가, 안전성까지 전 단계에 적용 가능한 실무 가이드를 제시한다.

상세 분석

논문은 먼저 CSW 현상을 언어학적 정의(코드‑스위칭↔코드‑믹싱, 매트릭스·임베디드 언어, 전사 등)와 전통적 문법 제약(Equivalence Constraint, Free Morpheme Constraint)을 정리하고, 영어 중심의 기존 연구 편향을 비판한다. 이후 LLM 시대에 맞춰 데이터·모델·프롬프트·평가 네 축을 연결한 통합 프레임워크를 제시한다. 데이터 측면에서는 정렬‑기반 대체, GLOSS‑style 어댑터, 필터‑후‑파인튜닝, 의사‑병렬 생성 등 비용·품질 트레이드오프를 명확히 구분하고, 스크립트 차이(라틴·비라틴)와 전사 문제를 해결하기 위한 로마자 전사 전략을 강조한다. 모델링에서는 (1) 지속적 사전학습(코드‑믹스 전용 코퍼스 노출), (2) 어댑터·프롬프트 튜닝, (3) 인‑컨텍스트 믹싱(ICM)·코드‑스위칭 인‑컨텍스트 학습(CSICL) 등 단계별 효율성을 비교한다. 특히 프롬프트 설계에서는 “형식적 정의 제공”과 “구문 경계 제약 삽입”이 자연스러운 코드‑믹스 생성을 크게 향상시킨다는 실험적 근거를 제시한다. 평가 파트에서는 현재 벤치마크가 영어‑편향적이며, 메트릭 불안정성(예: LID 정확도·퍼플렉서티·문화적 일관성) 문제를 지적하고, 다언어·다도메인 커버리지를 위한 새로운 평가 프로토콜을 제안한다. 마지막으로 안전성 논의에서는 코드‑믹스 프롬프트가 영어 기반 가드레일을 우회할 수 있음을 실증하고, 레드‑팀링·컨텍스트‑감지 방어 전략을 포함한 방어 체계를 제시한다. 전체적으로 논문은 이론·실험·산업 현장의 격차를 메우는 ‘플레이북’ 형태로 정리돼, 연구자와 엔지니어가 즉시 적용 가능한 체크리스트와 베스트 프랙티스를 제공한다.