주기적 구조를 위한 푸리에 변환 트랜스포머와 잠재 확산 모델

초록

이 논문은 결정 구조를 직접 좌표가 아닌 단위 셀 밀도의 절단 푸리에 변환으로 표현하고, 복소수 푸리에 계수를 다루는 트랜스포머 VAE와 잠재 확산 모델을 결합해 무조건적인 결정 생성 파이프라인을 제시한다. 9개의 푸리에 기저만으로도 종당 108개의 원자를 정확히 복원할 수 있으며, 공간군 대칭과 가변 원자 수를 자연스럽게 지원한다.

상세 분석

본 연구는 결정 물질 생성 모델링에서 가장 난제인 주기성, 공간군 대칭, 가변 원자 수를 근본적인 표현 단계에서 해결한다는 점에서 혁신적이다. 기존의 좌표 기반 혹은 격자 기반 접근법은 주기 경계 조건을 명시적으로 처리해야 하고, 고정된 원자 수 가정으로 인해 조성 변동을 다루기 어렵다. 저자들은 각 원소별 단위 셀 밀도를 Dirac 델타의 합으로 정의하고, 이를 제한된 푸리에 기저 집합 J (각 차원당 최대 9개의 파동벡터)로 투영한다. 이렇게 얻은 복소수 계수 α(z) 는 0차(DC) 성분이 해당 원소의 원자 수를 직접 인코딩하므로, 원자 수가 가변적인 상황에서도 동일한 텐서 형태를 유지한다.

공간군 대칭은 푸리에 공간에서 단순히 파동벡터의 순열과 위상 이동으로 표현된다. 구체적으로, 회전 M 과 평행이동 δ 에 대해 α(z)j = e^{-2πi j·δ} α(z){M^T j} 가 성립한다. 이는 대칭 제약을 별도의 정규화나 후처리 없이 토큰 수준에서 학습하도록 만든다. 저자들은 이러한 대칭 정보를 보존하기 위해 복소수 회전 위치 인코딩을 도입했으며, 이는 토큰의 상대 위상을 유지하면서도 회전 변환에 강인한 표현을 제공한다.

모델 아키텍처는 복소수 트랜스포머 블록을 기반으로 한 VAE와, 이를 압축한 잠재 공간에 대해 U‑Net 구조의 확산 모델을 적용한다. 인코더는 전체 푸리에 토큰, 전역 토큰, 그리고 작은 보조 토큰 집합을 동시에 처리하고, 각 레이어 후 보조 토큰을 추출해 깊이 정렬된 “보조 사다리”(auxiliary ladder) 형태로 잠재 코드를 구성한다. 디코더는 이 사다리를 레이어마다 재삽입해 복원 과정을 조건화한다. 이러한 설계는 정보 손실을 최소화하면서도 잠재 차원을 크게 압축할 수 있게 해준다.

실험에서는 LeMaterial 벤치마크(다양한 화학 종과 셀 크기)에서 재구성 정확도와 잠재 확산의 샘플 품질을 평가했다. 9×9×9 푸리에 격자(총 729 · 종 수 토큰)만으로도 108 원자까지 정확히 복원했으며, 소형 셀(≤16 원자)에서는 기존 좌표 기반 트랜스포머·GAN 대비 유사도와 물리적 타당성에서 경쟁력을 보였다. 특히, 가변 원자 수를 자연스럽게 생성할 수 있는 점은 입자 기반 확산 모델이 고정된 원자 수를 전제로 하는 한계를 뛰어넘는다.

전체적으로 이 논문은 주기적 물질 생성에 있어 “표현‑우선” 접근법을 제시함으로써, 대칭과 주기성을 모델 내부에 내재화하고, 복소수 푸리에 계수를 효율적으로 압축·생성할 수 있는 새로운 패러다임을 제공한다. 향후 고해상도 전자 밀도 예측, 물성 조건부 생성, 그리고 비정질·다결정 구조 확장 등 다양한 응용 가능성을 열어준다.