저자원 도메인 명명 엔터티 인식을 위한 데이터 증강 실험 연구

초록

본 논문은 의료·법률·금융 등 저자원 도메인에서 NER 성능을 높이기 위해 두 가지 텍스트 증강 기법인 Mention Replacement(MR)와 Contextual Word Replacement(CWR)를 적용하고, Bi‑LSTM+CRF와 BERT 두 모델에 대해 다양한 데이터 규모와 증강 비율을 실험한다. 실험 결과, 작은 학습 집합에서는 증강이 크게 도움이 되지만, 데이터가 충분히 클 경우 과다 증강이 성능 저하를 초래할 수 있음을 확인하였다. 또한 CWR이 MR보다 전반적으로 우수했으며, BERT이 Bi‑LSTM+CRF보다 증강 효과에 더 민감함을 보였다.

상세 분석

이 연구는 저자원 도메인에서 NER 모델을 구축할 때 가장 핵심적인 문제인 라벨링 비용과 데이터 부족을 완화하기 위해 데이터 증강을 전략적으로 활용한다는 점에서 의미가 크다. 먼저 저자들은 기존 연구에서 널리 사용되는 네 가지 증강 기법 중, 라벨이 부여된 엔터티 토큰에만 적용되는 Mention Replacement(MR)와 라벨이 ‘O’인 토큰에 적용되는 Contextual Word Replacement(CWR)를 선택하였다. MR은 원본 코퍼스 내 동일 라벨을 가진 다른 멘션으로 교체함으로써 엔터티 다양성을 확보하고, CWR은 사전 학습된 BERT 모델을 이용해 문맥에 맞는 대체어를 생성한다. 두 기법 모두 라벨 일관성을 유지하면서도 문장 구조는 크게 변형하지 않아 NER 태깅에 필요한 토큰‑라벨 정렬을 보존한다는 장점이 있다.

모델 측면에서는 전통적인 시퀀스 라벨링 구조인 Bi‑LSTM+CRF와 최신 트랜스포머 기반 BERT를 비교하였다. Bi‑LSTM+CRF는 상대적으로 파라미터가 적고 학습 비용이 낮아 저자원 환경에 적합하지만, 장거리 의존성을 포착하는 데 한계가 있다. 반면 BERT는 대규모 사전 학습 덕분에 문맥 이해도가 뛰어나지만, 파라미터 수가 많아 과적합 위험이 존재한다.

실험 설계는 네 개의 저자원 도메인 데이터셋(의료, 법률, 금융, 신규 도메인)에서 학습 데이터 비율을 10 %, 30 %, 50 %, 100 %로 조절하고, 각 비율마다 증강 샘플 수를 원본 데이터의 0 %, 25 %, 50 %, 100 %로 변형하였다. 이를 통해 “증강 양”과 “원본 데이터 양” 사이의 상호작용을 정량적으로 분석하였다. 주요 결과는 다음과 같다.

1. 소규모 학습 집합에서 증강 효과: 10 % 수준의 매우 제한된 데이터에서는 MR과 CWR 모두 F1 점수를 평균 4~6 %p 상승시켰으며, 특히 CWR이 더 큰 개선을 보였다. 이는 문맥 기반 대체가 엔터티 외 토큰의 다양성을 크게 늘려 모델이 일반화 능력을 확보하게 하기 때문이다.

2. 대규모 데이터에서 포화 현상: 데이터 비율이 50 % 이상으로 증가하면 증강 효과가 점차 감소하고, 100 %에 가까워질수록 오히려 성능이 약간 하락한다. 이는 증강된 문장이 원본 데이터와 중복되거나, 불필요한 노이즈를 도입해 라벨 일관성을 해칠 때 발생한다.

3. 증강 양의 비선형 관계: 증강 비율이 25 %에서 50 % 사이일 때 가장 큰 성능 향상이 관찰되었으며, 100 %까지 늘리면 포화점에 도달하거나 성능이 감소한다. 따라서 “얼마나 많은” 증강을 적용할지는 데이터 규모와 도메인 특성에 따라 달라진다.

4. 모델별 민감도 차이: BERT는 증강에 의해 얻는 이득이 Bi‑LSTM+CRF보다 크다. BERT는 사전 학습된 언어 모델 덕분에 새로운 토큰을 자연스럽게 받아들이지만, 파라미터가 많아 과도한 증강이 과적합을 일으킬 위험도 있다. 반면 Bi‑LSTM+CRF는 증강에 대한 민감도가 낮아, 작은 증강만으로도 충분히 개선 효과를 얻을 수 있다.

5. CWR이 MR보다 우수: CWR은 문맥을 고려해 대체어를 생성하므로, 엔터티 외 토큰의 의미 흐름을 보존하면서도 다양성을 제공한다. 반면 MR은 동일 라벨 내 멘션 교체에 국한돼, 엔터티 자체의 변형만을 제공한다. 실험 결과 CWR이 전반적으로 1~2 %p 높은 F1 점수를 기록했다.

이러한 결과는 저자원 NER 프로젝트에서 증강 전략을 설계할 때 “데이터 양”, “증강 양”, “모델 선택”을 동시에 고려해야 함을 시사한다. 특히 증강 양을 무조건 늘리기보다는 검증 셋을 활용해 최적의 증강 비율을 탐색하는 것이 실용적이다. 또한, CWR과 같은 문맥 기반 증강이 엔터티 라벨링 외의 토큰에도 긍정적인 영향을 미치므로, 향후 연구에서는 엔터티 내부와 외부를 동시에 다루는 복합 증강 파이프라인을 개발하는 것이 유망하다.