FEAST 4.0: 차세대 고성능 고유값 솔버

초록

FEAST 4.0은 복소수 등고선 적분과 근사 스펙트럼 투영을 이용한 서브스페이스 반복 기법을 기반으로, 표준·일반화·비정방형·비선형 고유값 문제를 단일 인터페이스로 해결한다. 혼합 정밀도 역잔차 반복 알고리즘을 도입해 선형 시스템을 단정밀도로 풀어도 이중정밀도 수렴 속도에 영향을 주지 않으며, 기존 v2.1·v3.0 대비 3~4배 빠른 성능을 제공한다. IFEAST, PFEAST, 다중 MPI 레벨 병렬화, 폴리노미얼 고유값 등 새로운 기능이 포함돼 있다.

상세 분석

FEAST 알고리즘은 양자역학의 밀도 행렬 표현과 복소 등고선 적분 기법을 차용해, 목표 고유값 구간을 둘러싼 등고선을 정의하고 그 안에 포함된 고유벡터들을 근사 스펙트럼 투영 연산으로 추출한다. 핵심 연산은 등고선상의 복소수 노드에 대해 독립적인 선형 시스템을 해결하는데, 각 시스템은 다중 RHS(오른쪽 손) 형태이므로 BLAS‑3 수준의 고성능 행렬‑벡터 연산을 활용할 수 있다. v4.0에서는 기존의 직접 인버전 방식 대신 ‘역잔차 반복(Residual Inverse Iteration)’을 도입했으며, 이는 선형 시스템을 단정밀도(싱글 프리시전)로 풀어도 전체 서브스페이스 반복의 수렴률에 거의 영향을 주지 않는다. 이 혼합 정밀도 전략은 메모리 대역폭과 연산량을 크게 절감하면서도 이중정밀도(더블 프리시전) 결과를 보장한다.

새롭게 추가된 IFEAST는 직접 팩터라이제이션 없이 BiCGStab 같은 반복 솔버를 이용해 선형 시스템을 근사적으로 해결한다. 이는 대규모 희소 행렬에 특히 유리하며, 사전조건자와 병렬 스레드 수를 자유롭게 조정할 수 있다. PFEAST은 세 단계의 MPI 병렬화를 제공한다. (L1) 서로 다른 등고선 구간을 독립적으로 할당, (L2) 등고선 노드별 선형 시스템을 분산, (L3) 각 노드 내 다중 RHS 연산을 스레드 수준에서 병렬화한다. 이러한 다중 레벨 병렬화는 클러스터 환경에서 거의 선형 확장성을 보이며, 특히 MKL‑PARDISO와 같은 고성능 직접 솔버와 결합될 때 최적의 성능을 발휘한다.

폴리노미얼 고유값 문제(2차, 3차, 4차 등)도 FEAST 프레임워크 내에서 동일한 등고선 적분 구조를 이용해 해결한다. 비정방형(Non‑Hermitian) 문제에 대해서는 좌·우 고유벡터를 동시에 계산하고, bi‑orthonormal 기저를 유지한다. 또한 극소·극대 고유값을 찾는 전용 모드가 제공돼, 대규모 스펙트럼 양 끝 부분을 효율적으로 탐색한다.

사용자 인터페이스는 RCI(Reverse Communication Interface)와 드라이버 형태 두 가지로 제공된다. RCI는 행렬‑벡터 연산, 선형 시스템 솔버, 전처리 등을 사용자가 직접 구현하도록 허용해 최대 유연성을 제공한다. 반면 드라이버 인터페이스는 LAPACK, SPIKE(밴디드 행렬), MKL‑PARDISO(희소 CSR) 등 기존 고성능 라이브러리를 바로 호출하도록 래핑한다. 모든 인터페이스는 Fortran과 C 양쪽에서 동일하게 호출 가능하며, 헤더 파일만 포함하면 된다.

FEAST v4.0은 설치·컴파일 절차가 간단하고, 환경 변수 $FEASTROOT 설정만으로 라이브러리 경로를 관리한다. Makefile 옵션을 통해 아키텍처, Fortran 컴파일러, MPI 구현, MKL 사용 여부 등을 지정할 수 있다. 기본 제공 예제(HelloWorld)와 풍부한 문서, 유틸리티 함수가 포함돼 초보자도 빠르게 적용할 수 있다.

전반적으로 FEAST 4.0은 복소 등고선 적분 기반 서브스페이스 반복이라는 수학적 혁신을 실용적인 고성능 라이브러리로 구현했으며, 혼합 정밀도, 인-팩터라이제이션, 다중 MPI 레벨 병렬화 등 최신 HPC 요구를 충족한다.