잠재공간과 대화하며 천문학자를 만든다

초록

본 논문은 사전 학습된 천문학 스펙트럼 인코더의 잠재 특징을 대형 언어 모델(LLM)과 결합하고, 교사‑학생 지식 증류와 LoRA 어댑터를 이용해 물리적 추론 능력을 주입한다. 1B‑32B 규모의 모델이 실제 별 스펙트럼 데이터를 기반으로 온도, 중력, 금속량 등 기본 물리량을 정확히 예측하고, 반지름 정보와 같은 외부 텍스트 입력을 활용해 질량·광도 등 복합 물리량을 제로샷으로 추론한다. 또한 잠재 공간의 물리적 개념 방향을 식별·조작함으로써 모델 출력을 물리적으로 “조정”할 수 있음을 보인다.

상세 분석

이 연구는 두 가지 핵심 아이디어를 결합한다. 첫째, 천문학 전용 스펙트럼 인코더(Conformer 기반 SC와 Vision‑Transformer 기반 SVIT)의 2048‑차원 잠재 벡터를 LLM 토큰 임베딩 공간에 직접 투사한다. 투사는 가벼운 MLP‑Adapter Network(AN)로 구현되며, K=8개의 가상 토큰을 생성해 원본 질문 토큰 앞에 삽입한다. 이렇게 하면 LLM은 텍스트와 고차원 수치 정보를 동일한 시퀀스에서 동시에 처리한다는 멀티모달 특성을 갖는다.

둘째, 교사‑학생 지식 증류 프레임워크를 도입한다. 대형 LLM(예: Gemini 3 Pro)을 교사로 활용해 합성 질문‑답 데이터(Q‑A)를 자동 생성하고, 이를 학생 모델(1B‑32B 규모)에게 제공한다. 학생 모델은 AN을 먼저 학습해 잠재 특징을 토큰 형태로 변환하고, 이후 LoRA(저‑랭크 어댑터)를 통해 전체 LLM 파라미터를 미세조정한다. 이 두 단계는 (1) 잠재‑토큰 매핑을 안정화하고, (2) 텍스트 기반 일반 물리 지식을 LLM 내부에 보존하면서도 새로운 물리적 추론 능력을 삽입하도록 설계되었다.

실험에서는 세 가지 LLM 크기(Llama‑1B, Llama‑8B, Qwen‑32B)를 동일한 데이터셋(40 k 샘플, 8개의 잠재 토큰, 70 %에 팔로우‑업 질문 포함)으로 학습시켰다. 기본 물리량(T_eff, log g,