복합 질문 답변을 위한 비지도 학습 접근법 비교

초록

본 논문은 복합 질문에 대한 답변을 다중 문서 요약 문제로 정의하고, 문장 중요도 산정을 위해 경험적 방법, K‑means, 기대값 최대화(EM) 세 가지 비지도 학습 기법을 실험한다. 다양한 lexical, lexical‑semantic, 코사인 유사도, 기본 요소, 트리 커널 기반 구문·의미 특징을 추출하고, 로컬 서치를 통해 가중치를 학습한다. 실험 결과 경험적 방법이 가장 우수했으며, EM이 K‑means보다 성능이 높았다. 특히 구문·의미 트리 커널 특징이 BOW만 사용할 때보다 요약 품질을 크게 향상시켰다.

상세 분석

이 연구는 복합 질문 응답을 “주제‑지향적, 정보‑집중 다중문서 요약”으로 재구성하고, 문장 선택을 위한 중요도 점수를 비지도 방식으로 추정한다는 점에서 의미가 크다. 먼저 저자들은 문장 수준에서 7가지 유형의 특징을 설계한다. 전통적인 Bag‑of‑Words(BOW)와 TF‑IDF 기반 코사인 유사도 외에, WordNet 기반 lexical‑semantic 관계, 기본 요소(BE) 매트릭스, 그리고 구문·의미 구조를 포착하는 트리 커널(feature)까지 포함한다. 특히 트리 커널은 문장의 구문 트리와 의미 역할 트리를 커널 함수로 변환해, 표면 형태가 달라도 구조적 유사성을 정량화한다는 점에서 기존 요약 연구와 차별화된다.

중요도 모델링은 세 가지 접근법으로 진행된다. ① 경험적 방법은 각 특징에 대한 가중치를 수동으로 설정하고, 문장 점수를 선형 결합해 상위 N개를 선택한다. ② K‑means는 문장 특징 벡터를 군집화하고, 중심에 가까운 문장을 핵심으로 간주한다. ③ EM은 가우시안 혼합 모델을 가정해, 각 문장이 “중요” 혹은 “비중요” 라는 숨은 라벨을 가질 확률을 추정한다. EM은 초기 파라미터를 K‑means 결과로 설정하고, 기대‑최대화 과정을 통해 파라미터와 라벨 확률을 동시에 최적화한다.

가중치 학습은 로컬 서치 방식으로 수행된다. 초기 가중치를 무작위로 설정한 뒤, 각 특징의 가중치를 미세하게 변동시켜 ROUGE‑2 점수를 평가한다. 점수가 향상될 경우 해당 변동을 채택하고, 일정 횟수 반복해 최적 가중치를 탐색한다. 이 과정은 비지도 학습임에도 불구하고, 외부 평가 지표를 활용해 간접적으로 지도 효과를 부여한다는 점이 흥미롭다.

실험은 DUC‑2007 데이터셋의 복합 질문과 관련 문서들을 사용했으며, 요약 길이는 250단어로 제한했다. 결과는 경험적 방법이 가장 높은 ROUGE 점수를 기록했으며, EM이 K‑means보다 일관되게 우수했다. 특히 트리 커널 기반 구문·의미 특징을 포함했을 때, BOW만 사용할 경우 대비 ROUGE‑2가 평균 3~4% 상승했다. 이는 구조적 정보가 문장 간 의미적 연관성을 포착하는 데 크게 기여함을 시사한다.

한계점으로는 특징 가중치 학습에 외부 평가 지표가 필요하다는 점과, 트리 커널 계산 비용이 높아 대규모 코퍼스에 적용하기 어려울 수 있다는 점을 들 수 있다. 향후 연구에서는 신경망 기반 임베딩과 결합하거나, 효율적인 커널 근사 방법을 도입해 확장성을 높이는 방향이 제시된다.