IISCNLP tại SemEval 2016 Task 2: ILP 기반 다중 청크 정렬을 사용한 해석 가능한 STS

금 조각이 제공되지 않은 경우 추가적인 조각 단계를 수행합니다. 우리는 두 가지 방법을 사용하여 조각화를 수행합니다: (1) OpenNLP 조각기 (2) stanford-core-nlp API를 이용한 문장 구조 생성 및 chunklink 도구를 활용한 조각화.

조각화 과정에서는 다음과 같은 사전 처리를 진행합니다. 구두점은 제거되지만, 공백으로 분리되어 있는 경우에는 독립된 단어로 간주됩니다. 또한 유니코드 문자는 아스키 문자로 변환됩니다. 조각기의 출력은 후처리 과정을 거쳐 각 단일 부사구를 앞에 오는 구와 결합합니다. OpenNLP 조각기가 문장의 마지막 단어를 무시하는 경우, 이 단어는 별도의 조각으로 연결됩니다. stanford-core-nlp 해석기 기반의 조각화에서는 특히 학생 답변 데이터셋에서 ‘and’ 같은 접속사가 대부분 독립적인 조각으로 분리되는 것을 관찰할 수 있었으며, 따라서 접속사를 중심으로 조각을 결합하여 개선된 조각화를 실현할 수 있습니다. 이러한 처리 휴리스틱은 금 조각 데이터에서의 관찰 결과에 기반하고 있으며, 시스템 조각 트랙에서 조각화의 질이 전체 점수에 큰 영향을 미친다는 것을 확인했습니다. 미래 연구에서는 사용자 정의 알고리즘으로 조각화를 개선하는 방법을 탐색할 계획입니다.

문제 정의: 다음과 같이 우리의 문제를 공식적으로 정의합니다. 소스 문장($`Sent_1`$)에는 M개의 조각이 있고, 대상 문장($`Sent_2`$)에는 N개의 조각이 있습니다. $`C^1=\{ c_1^1,\hdots,c_M^1 \}`$, 문장 $`Sent_1`$의 조각 집합과 $`C^2=\{ c_1^2,\hdots,c_N^2 \}`$, 문장 $`Sent_2`$의 조각 집합을 고려합니다. $`\mathscr S_1 \subset PowerSet(C^1)-\phi`$ 및 $`\mathscr S_2 \subset PowerSet(C^2)-\phi`$를 각각 $`C^1`$과 $`C^2`$의 모든 가능한 조각 조합 집합인 멱집합의 부분 집합으로 고려합니다. $`S_1 \in \mathscr S_1`$ 및 $`S_2 \in \mathscr S_2`$는 결합할 가능성이 있는 특정 조각 하위 집합을 나타냅니다. $`concat(S_1 )`$은 $`S_1`$의 조각 연결 결과를, 그리고 $`concat(S_2)`$는 $`S_2`$의 조각 연결 결과를 나타냅니다. 이진 변수 $`Z_{S_1,S_2}`$가 $`concat(S_1)`$이 $concat(S_2)와 대응될 때 1을, 그렇지 않으면 0을 취합니다.

대응 모듈의 목표는 결정 변수($`Z_{S_1,S_2}`$)를 찾는 것입니다. 이 값들은 비영속적이어야 합니다. $`S_1`$과 $`S_2`$는 여러 개의 조각(연속적이지 않을 수 있는 다중 대응)을 포함할 수 있습니다. 대응된 조각은 추가적으로 유형 분류기와 점수 분류기를 통해 분류됩니다. 유형 예측 모듈은 연결된 조각 쌍($`concat(S_1), concat(s_2))`$)과 같은 관계 유형(EQUI, OPPO 등)을 식별합니다. 점수 분류기 모듈은 조각 쌍에 대해 0-5 사이의 유사도 점수를 할당합니다. 시스템 조각 트랙에서 조각 모듈은 문장 $`Sent_1, Sent_2`$을 각각 $`C_1,C_2`$로 변환합니다.

iMATCH: ILP 기반 다중 언어 대응기

[[IMG_PROTECT_N]]

우리는 여러 개의 대응(연속적이지 않은 조각 조합 허용) 문제를 정수 선형 계획법(ILP) 최적화 문제로 접근합니다. 목적 함수는 모든 $`Z_{S_1,S_2}`$의 합을 가중치로 두고 $`concat(S_1)`$과 $`concat(S_2)`$ 간의 유사도를 반영하며, 각 조각이 다른 문장의 어떤 조각과도 단 한 번만 대응되도록 하는 제약 조건을 설정합니다. 이는 다음과 같은 ILP 기반 최적화 문제로 귀결됩니다 :

\begin{equation}
\begin{aligned}
& \underset{Z}{\text{max}} 
 &  \underset{S_1 \in \mathcal S_1, S_2 \in \mathcal S_2} \Sigma Z_{S_1, S_2} ~ \alpha(S_1, S_2) ~ Sim({S_1, S_2}) \\ \nonumber
 & \text{S.T}\nonumber
 & \underset{\bar S_1 = \{S: c^1 \in S ,S \in \mathscr S_1 \}, S_2 \in \mathscr S_2 }{\Sigma} {Z_{S_1,S_2}} \leq 1, \forall 1 \leq c^1 \leq M\\ \nonumber
 & & \underset{S_1 \in \mathscr S_1, \bar S_2 = \{S: c^2 \in S, S \in \mathscr S_2 \} }{\Sigma} {Z_{S_1,S_2}} \leq 1, \forall 1 \leq c^2 \leq N \\ \nonumber
& &  Z_{S_1,S_2} \in \{0,1\}, \forall  S_1 \in \mathscr S_1,S_2 \in \mathscr S_2 \\\nonumber
\end{aligned}
\end{equation}

최적화 제약 조건은 특정 조각 $`c`$가 다른 문장의 어떤 하위 집합과도 단 한 번만 대응되도록 합니다. 따라서 하나의 조각은 단 한 번만 대응될 수 있습니다. 모든 가능한 다중 대응이 이 최적화 문제에서 탐색됩니다: $`\mathscr S_1 = PowerSet(C^1) - \phi`$와 $`\mathscr S_2 = PowerSet(C^2) - \phi`$. 그러나 이는 매우 많은 결정 변수 $`Z_{S_1,S_2}`$를 생성하므로 실제 사용에는 적합하지 않습니다. 따라서 제한된 사례를 고려합니다.

\mathscr S_1 = \{C^1_1\}, \hdots, \{C^1_M\} \cup \{ \{C^1_i,C^1_j\}: 1\leq i < j \leq M\}

\mathscr S_2 = \{C^2_1\}, \hdots, \{C^2_N\} \cup \{ \{C^2_i,C^2_j\}: 1\leq i < j \leq N\}

이것은 최대 두 개의 조각을 결합하여 다른 두 개의 조각과 대응하는 다대다 대응을 의미합니다. iSTS 작업 제출에서는 이 설정으로 실험을 제한했지만(이는 iSTS 작업에 잘 작동했습니다), 집합 $`S_1`$ 및 $`S_2`$를 3개 이상의 조각 조합을 포함하도록 확장할 수 있습니다. 효율성을 위해 인접 정보, 의존성 분석 기법 등을 사용하여 부분 집합을 고려할 수 있습니다. 유사도 점수인 $`Sim({S_1, S_2})`$, 즉 $`concat(S_1)`$을 $`concat(S_2)`와 대응하는 정도를 측정하고 최적의 단일 언어 대응 작업 해를 찾는 데 중요한 역할을 합니다. 우리는 다음과 같이 주어진 특성 F1, F2, F3, F8, F10 및 F11의 하위 집합에서 얻은 유사도 점수 중 최대값을 사용하여 이 유사도 점수를 계산합니다: $max(F1, F2, F3, F8, F10, F11)$. 구현 시 가중치 항인 $\alpha({S_1,S_2})$는 $S_1$의 카디널리티와 $S_2$의 카디널리티에 대한 함수로 설정되어 더 적은 개별 조각을 대응하는 것(예를 들어, 단일 대응이 유사도 점수가 -1과 1 사이에 정규화되기 때문에 더 많은 대응 쌍으로 인해 목적 함수 값이 증가할 수 있음)이 다중 대응보다 불필요한 이점을 갖지 않도록 합니다. 이것은 간단한 그리드 탐색을 통해 값을 설정하는 하이퍼파라미터입니다. 실제 ILP 최적화 문제는 PuLP라는 선형 프로그래밍 툴킷을 사용하여 해결합니다. 우리의 시스템은 금 조각 트랙에서 뉴스 제목 데이터셋의 가장 우수한 대응 점수를 기록했습니다.