GeoReg: 대규모 언어모델 기반 가중치 제약 소수샷 회귀로 지역사회경제 지표 추정

초록

GeoReg은 위성영상·지리정보·웹 데이터 등 이질적인 소스를 활용해 지역별 GDP·인구·교육 수준 등 사회경제 지표를 추정한다. 대규모 언어모델(LLM)을 ‘데이터 엔지니어’로 활용해 특징을 자동 추출·분류하고, 긍정·부정·혼합·무관계 네 가지 상관관계에 따라 가중치를 제약한 선형 회귀와 비선형 상호작용을 결합한다. 소수 샷(몇 개의 라벨) 상황에서도 한국·베트남·캄보디아 3개국 실험에서 기존 베이스라인을 크게 앞섰으며, 해석 가능성과 확장성을 동시에 제공한다.

상세 분석

GeoReg은 기존 사회경제 지표 추정 모델이 대량의 라벨 데이터에 의존한다는 한계를 LLM 기반 사전 지식을 활용해 극복한다는 점에서 혁신적이다. 먼저, 저자들은 GIS API, 위성 이미지, VIIRS 야간조명, 토지 피복 분할 등 5가지 데이터 소스로부터 26개의 모듈형 특징을 정의한다. 각 모듈은 ‘get_area’, ‘get_distance_to_nearest_target’, ‘get_night_light’, ‘count_area’, ‘get_aggregate_neighbor_info’ 등 구체적인 함수 형태로 구현돼, 지역 경계와 주변 정보를 정량화한다.

핵심은 두 단계 학습 파이프라인이다. 1단계에서는 사전 학습된 LLM에게 각 모듈‑지표 쌍에 대한 메타 정보를 제공하고, 체인‑오브‑쓰스(Chain‑of‑Thought) 프롬프트를 통해 단계별 추론을 유도한다. LLM은 모듈과 목표 지표 사이의 상관관계를 긍정(A), 부정(B), 혼합(C), 무관(D) 네 가지 카테고리 중 하나로 분류하고, 다섯 번의 자체 일관성 검증 후 다수결로 최종 라벨을 결정한다. 이 과정은 라벨이 극히 적은 상황에서도 인간 전문가 수준의 도메인 지식을 자동으로 전이한다는 점에서 의미가 크다.

2단계에서는 LLM이 제시한 카테고리별 가중치 제약을 선형 회귀에 적용한다. 긍정적 모듈은 가중치가 0보다 크도록, 부정적 모듈은 0보다 작도록, 무관계 모듈은 0에 가깝게 제한한다. 이렇게 제약된 선형 모델은 과적합 위험을 크게 낮추면서도 해석 가능성을 확보한다. 또한, 각 카테고리 내에서 LLM이 발견한 상호작용(term)들을 비선형 변환(예: 다항식, 로그)과 결합해 모델의 표현력을 보강한다.

실험에서는 한국(고소득), 베트남(중소득), 캄보디아(저소득) 3개국의 지역 GDP, 인구, 교육 지표를 대상으로 5~10개의 라벨만 사용해 학습하였다. GeoReg은 평균 승률 87.2%를 기록했으며, 특히 라벨이 5개 이하인 캄보디아에서 기존 CNN‑기반 다중모달 모델보다 12%p 이상 높은 R²를 달성했다. 가중치 제약이 없는 일반 선형 회귀와 비교했을 때도 성능 격차가 뚜렷했으며, LLM 없이 무작위 모듈 선택만으로 구성한 베이스라인 대비도 큰 이점을 보였다.

해석 측면에서는 각 모듈의 가중치와 제약 조건을 통해 정책 입안자가 “면적이 큰 지역은 GDP와 양의 상관관계가 있다”, “야간조명 강도는 인구와 부의 상관관계가 있다” 등 직관적인 인과 관계를 확인할 수 있다. 이는 기존 블랙박스 딥러닝 모델이 제공하지 못했던 투명성을 제공한다.

한계점으로는 LLM 프롬프트 설계와 모듈 정의에 도메인 전문가의 사전 지식이 필요하다는 점, 그리고 LLM 자체의 오류(hallucination) 가능성이 가중치 제약에 영향을 미칠 수 있다는 점을 들 수 있다. 향후 연구에서는 자동 프롬프트 최적화, 모듈 자동 생성, 그리고 LLM‑비전 멀티모달 통합을 통해 이러한 제약을 완화할 여지가 있다.