다중문장 일관성 CCG 파싱으로 논리 추론 향상

초록

본 논문은 전통적인 CCG 파서가 문장별로 독립적으로 동작하면서 발생하는 구문 일관성 문제를 해결하기 위해, 문장 집합 전체에 걸친 마코프 랜덤 필드(MRF) 모델을 도입한다. A* 파싱과 듀얼 디컴포지션을 결합해 전역 일관성을 유지하면서도 파싱 속도를 크게 저하시키지 않는다. 영어 SICK와 일본어 JSeM 데이터셋에서 논리 기반 RTE 시스템에 적용했을 때 정확도와 재현율이 일관되게 향상되는 것을 확인하였다.

상세 분석

이 연구는 CCG 기반 논리식 변환 파이프라인에서 “문맥 간 일관성”이라는 핵심 결함을 정량적·정성적으로 분석한다. 기존 신경망 기반 CCG 파서는 각 문장을 독립적으로 처리하므로, 동일 어휘가 다른 구문 구조로 해석될 경우 전제와 가설 사이의 논리식이 불일치해 정리 증명 단계가 실패한다. 이를 해결하기 위해 저자들은 Rush et al. (2012)의 전역 MRF 모델을 CCG 파싱에 맞게 변형하였다. MRF는 각 단어가 등장하는 ‘컨텍스트’(표면 형태 기반 unigram 혹은 일본어에서는 bigram POS) 노드를 중심으로, 동일 컨텍스트에 속하는 단어 노드들 간에 카테고리 라벨을 일관되게 부여하도록 설계된다. 라벨 일관성 점수 f₍w,c₎는 완전 일치(δ₁), 간단히 정규화된 일치(δ₂), NULL(δ₃) 순으로 가중치를 부여해, 파서가 불확실한 경우에도 전역 제약을 통해 올바른 카테고리를 선택하도록 유도한다.

파싱 자체는 depCCG의 A* 알고리즘을 사용한다. A* 파서는 각 단어에 대한 슈퍼태그 확률(p_tag)과 의존 헤드 확률(p_dep)을 곱해 트리 확률을 계산하며, 이는 로컬 파싱 점수로 활용된다. 전역 MRF 점수와 로컬 파싱 점수를 동시에 최적화하기 위해 듀얼 디컴포지션을 적용한다. 구체적으로, 파싱 결과 Y와 MRF 라벨링 z 사이에 “각 단어 노드의 카테고리 라벨이 일치한다”는 제약을 두고 라그랑주 승수를 반복적으로 업데이트한다. 알고리즘 1은 이 과정을 명시적으로 제시하며, α(학습률)와 K(반복 횟수) 등 하이퍼파라미터를 통해 수렴 속도와 제약 강도를 조절한다.

실험에서는 두 가지 논리 기반 RTE 시스템(ccg2lambda, LangPro)과 두 데이터셋(영어 SICK, 일본어 JSeM)을 사용했다. 영어 실험에서 depCCG+MRF는 EasyCCG 대비 정확도·재현율 모두 소폭 상승했으며, 특히 LangPro15와 LangPro17에서 각각 0.5%·0.1% 정도의 차이를 보였다. ccg2lambda에서도 MRF 적용 시 정확도가 1% 이상 상승했다. 일본어 실험에서도 동일하게 정확도와 재현율이 개선되었지만, 전체 점수는 Jigg 기반 파서에 비해 낮아 향후 파서 선택이 중요한 점을 시사한다.

오류 분석에서는 MRF가 “present participle” 구문(예: “man exercising”)을 올바르게 S\NP 형태로 복원해 전제·가설 간 논리식 일관성을 확보한 사례와, 좌우 구조가 다른 동사(예: “eat”가 타동사·자동사)에서 과도한 제약으로 잘못된 라벨을 부여한 사례를 제시한다. 이는 컨텍스트 정의를 보다 정교하게(예: N-gram, POS 태그 결합)하거나, δ 파라미터를 자동 튜닝하는 기계학습 기반 선택기가 필요함을 암시한다.

결론적으로, 전역 MRF와 듀얼 디컴포지션을 통한 다중문장 일관성 모델링은 파싱 정확도 자체를 크게 개선하지 않더라도, 논리 기반 RTE 시스템의 최종 성능을 안정적으로 향상시킨다. 향후 연구에서는 더 복잡한 문서 수준의 코어퍼런스·디스코스 구조를 포함한 확장, 그리고 파라미터 자동 학습을 통한 일반화 능력 강화가 기대된다.