빅GP R에서 가우시안 프로세스 연산 병렬화

**1. 서론** 가우시안 프로세스는 공간·시공간 통계와 머신러닝에서 핵심 모델이지만, 관측치 수 **n**이 커질수록 **O(n³)**의 차콜스키 연산과 **O(n²)** 메모리 요구 때문에 실용성이 떨어진다. 기존 연구는 저차원 근사, 스파스 코베리언스, 로컬 모델링 등으로 문제를 완화했지만, 근본적인 연산 가속은 부족했다. 본 논문은 이러한 한계를 극복하기 위해 고성능 컴퓨팅(HPC) 기술을 직접 통계 모델에 적용한다. **2. 병렬 알고리즘 설계** - **블록 분할**: 행렬을 **B×B** 블록으로 나누고, 각 블록을 **h×h** 작은 서브블록으로 재분할한다. 블록 크기 **h**는 캐시 친화성을, 블록 수 **B = h·D**는 로드 밸런스를 조절한다. - **프로세스 배치**: 프로세스 수 **P = D(D+1)/2** 형태를 유지해, 대각 프로세스와 비대각 프로세스를 구분한다. 대각 프로세스는 삼각 블록을, 비대각 프로세스는 사각 블록을 담당한다. - **연산 흐름**: 차콜스키 분해 → 삼각 해법 → 행렬 곱/차감 순으로 진행한다. 각 단계는 ScaLAPACK의 블록 차콜스키 루틴을 그대로 사용하고, 내부 연산은 멀티코어 BLAS(OpenBLAS, MKL)로 스레드화한다. - **통신 최소화**: 블록 간 의존성을 그래프 형태로 모델링해, 필요한 경우에만 MPI `Send/Recv`를 수행한다. 특히, 대각 블록이 완료된 뒤에만 비대각 블록이 업데이트되도록 하여 통신 병목을 줄인다. **3. 메모리 관리** 전체 행렬을 각 노드에 균등 분배하고, 오프‑대각 프로세스가 최대 4개의 임시 블록을 보관한다. 이때 메모리 오버헤드는 **h**와 **D**가 커질수록 감소해, 실제 실험에서는 전체 메모리 사용량이 삼각 행렬 저장량의 1.8배에 머물렀다. **4. R 인터페이스와 API** `bigGP` 패키지는 C와 MPI로 구현된 핵심 함수를 R 래퍼로 감싼다. 사용자는 R에서 공분산 함수를 정의하고, `gp_likelihood`, `gp_predict`, `gp_simulate` 등 고수준 함수를 호출하면 내부적으로 분산 차콜스키와 전·후방 해결이 자동 수행된다. 이는 기존 R 기반 GP 패키지와 달리 C/MPI 코딩 없이도 대규모 데이터 분석이 가능하도록 만든다. **5. 성능 평가** - **데이터**: 천문학 관측 데이터 **n = 67 275**. - **환경**: 1노드(16코어)부터 64노드(각 16코어)까지 확장 테스트. - **결과**: 차콜스키 단계에서 64노드 사용 시 약 30배 가속, 전체 파이프라인에서도 20배 이상 속도 향상. 메모리 사용량은 노드당 8 GB 이하로, 일반 클러스터에서도 충분히 실행 가능. - **비교**: 기존 R 패키지는 5 000 이하 관측치에서만 실행 가능했으나, `bigGP`는 10배 이상 규모를 손쉽게 처리한다. **6. 장점 및 한계** 장점은 (1) 차콜스키 연산을 완전 분산화해 메모리·시간 복잡도 감소, (2) R 사용자 친화적 API 제공, (3) 실제 대규모 데이터에 대한 검증. 한계는 (1) 블록 크기와 프로세스 수 선택이 사용자 환경에 따라 튜닝 필요, (2) 비스레드화된 R 공분산 함수가 병목이 될 수 있음, (3) GPU와 같은 이종 자원 활용은 아직 미구현. **7. 향후 연구** - **GPU 연동**: CUDA 기반 BLAS와 MPI를 결합해 더 큰 행렬을 처리. - **근사 GP와 결합**: Nystrom, inducing point 등 저차원 근사와 병행해 메모리 요구를 더욱 낮춤. - **자동 튜닝**: 블록 크기 **h**, 프로세스 수 **D**를 자동으로 최적화하는 런타임 시스템 개발. **결론** `bigGP`는 하이브리드 병렬화와 블록 기반 행렬 분할을 통해 R 환경에서 가우시안 프로세스 연산을 대규모 데이터에 적용할 수 있게 만든 혁신적인 도구이다. 이는 통계학자와 데이터 과학자가 고성능 컴퓨팅 자원을 별도 프로그래밍 없이 활용하도록 함으로써, 공간 통계와 머신러닝 분야의 연구 범위를 크게 확장한다.