다차원 의미 극성 필드와 벡터를 포착하고 설명하는 TOPol

초록

TOPol은 대규모 언어 모델 임베딩을 UMAP·Leiden으로 토픽화하고, 인간이 정의한 컨텍스트 경계(CB) 양쪽의 토픽 중심을 비교해 방향성 벡터를 만든다. 이 벡터 집합을 ‘극성 필드’라 부르며, 크기·방향·의미를 정량화한다. 토픽별 극성 벡터의 양극점 문서를 LLM에 제시해 대비 라벨과 커버리지를 추출함으로써 다차원 의미 변화를 해석한다. 미국 중앙은행 연설과 Amazon 리뷰 두 데이터셋에서 비감정·감정 변화를 모두 포착했으며, CB 정의가 결과에 가장 큰 영향을 미치는 유일한 요인임을 실험적으로 확인했다.

상세 분석

본 논문은 기존 감성 분석이 단일 스칼라(긍정‑부정)로 의미 극성을 축소하는 한계를 지적하고, 의미가 다차원적 흐름을 가진다는 전제 하에 새로운 프레임워크 TOPol을 제안한다. TOPol의 핵심 파이프라인은 다음과 같다. 첫 단계에서 문서 전체를 일반 목적 트랜스포머 기반 대형 언어 모델(tLLM)로 고차원 임베딩한다. 여기서는 OpenAI text‑embedding‑3‑small를 사용했으며, 모델 선택은 도메인 독립성과 계산 효율성을 고려한 것이다. 임베딩은 차원 축소를 위해 UMAP을 적용하는데, ‘neighbor‑tuned’ 옵션을 활용해 로컬 토폴로지를 보존하고 토픽 간 거리 왜곡을 최소화한다. 차원 축소 후 k‑최근접 이웃 그래프를 구성하고 Leiden 커뮤니티 탐지를 수행해 토픽 클러스터 T₁…T_k를 도출한다. 이때 토픽은 의미적 일관성을 유지하면서도 고차원 구조를 반영한다는 점이 중요하다.

다음으로 인간‑온‑더‑루프(HoTL) 방식으로 정의된 컨텍스트 경계(CB)를 적용한다. CB는 두 개의 상호 배타적 서브코퍼스 D_A와 D_B(예: 사전·사후 위기 연설, 긍정·부정 리뷰)로 나뉘며, 각 토픽 T_i는 D_A와 D_B에 각각 부분집합 D_Ai, D_Bi를 가진다. 각 부분집합의 중심점 µ_Ai, µ_Bi를 평균 벡터로 계산하고, 극성 벡터 v_i = µ_Bi – µ_Ai 를 정의한다. 이 벡터는 토픽 수준에서 의미 이동의 방향과 크기를 정량화한다. 모든 v_i를 원점에 고정해 놓음으로써 ‘다차원 의미 극성 필드’를 구성하고, 필드 전체의 통계적 특성(벡터 크기 평균, 방향 분산 등)을 분석한다. 저자는 무작위 CB와 비교해 실제 CB에서 얻은 필드가 더 높은 일관성과 의미적 정렬을 보임을 실험적으로 입증한다.

극성 벡터의 해석 단계에서는 대형 언어 모델(gemini‑2.5‑flash)을 활용한다. 각 v_i에 대해 µ_Ai와 µ_Bi에 가장 가까운 n개의 문서(N_Ai, N_Bi)를 추출하고, 프롬프트를 통해 “두 집합 사이의 주요 차이점을 라벨링하고, 각각의 라벨이 차지하는 비율을 추정하라”는 작업을 수행한다. 결과물은 (1) 극성 양극에 대한 자연어 라벨, (2) 라벨별 커버리지 추정치, (3) 대표 문장·키워드 리스트다. 이를 통해 ‘신뢰‑의심’, ‘투명‑불투명’ 등 비감정적 의미 축도 자동으로 도출될 수 있음을 보인다.

실험에서는 두 개의 상이한 코퍼스를 사용했다. 첫 번째는 2007년 금융 위기 전후의 미국 연방준비제도(FED)·연방은행 연설 600편을 시간 기반 CB로 구분했으며, 감정 요소가 거의 없는 기술·정책 언어가 주를 이룬다. 두 번째는 별점 1‑5를 균등히 샘플링한 Amazon 제품 리뷰 10,000건을 별점 기준 CB로 나누어 감정 중심의 변화를 탐색했다. 두 경우 모두 TOPol은 (a) 연설 데이터에서 ‘통화 정책‑재정 정책’, ‘위기‑안정’ 등 다차원적 의미 이동을 포착했고, (b) 리뷰 데이터에서는 NRC 감성 사전과 높은 상관성을 보이는 ‘긍정‑부정’ 축을 재현했다. 특히, 비감정 데이터에서 기존 감성 사전이 포착하지 못한 의미 축을 자동으로 발견한 점이 주목할 만하다.

강건성 검증에서는 UMAP·Leiden 파라미터, 토픽 수 k, 임베딩 모델 교체 등 여러 변수를 크게 변동시켰다. 결과는 ‘컨텍스트 경계 정의’만이 출력된 극성 필드에 유의미한 변화를 일으키며, 다른 파라미터는 필드 구조에 미미한 영향을 미친다는 것을 보여준다. 이는 TOPol이 파라미터에 민감하지 않은 안정적인 프레임워크임을 의미한다.

전체적으로 본 연구는 (1) 의미 극성을 다차원 벡터 필드로 재구성하는 방법론, (2) 인간이 정의한 CB를 중심으로 의미 이동을 정량·정성 분석하는 절차, (3) 대형 언어 모델을 이용한 자동 라벨링·해석 메커니즘을 제시한다. 이는 감성 분석을 넘어 정책·학술·비즈니스 텍스트에서 맥락 의존적 의미 변화를 탐지하고 설명하는 새로운 도구로 활용될 가능성을 열어준다.