희소성·구조·스케일링·안정성: 계산선형대수의 통합 교과서

초록

이 교과서는 1994년 IX 컴퓨터 과학 학교에서 사용된 강의 자료를 기반으로, 희소 행렬의 효율적 처리, 구조적 특성 활용, 부동소수점 스케일링, 그리고 수치 안정성 문제를 포괄적으로 다룬다. 그래프 이론, 블록 구조, QR·Cholesky 분해, 병렬 구현 등 실용적 알고리즘과 이론을 연결해 선형 시스템 해법을 심도 있게 제시한다.

상세 분석

본 교과서는 계산선형대수의 네 가지 핵심 축인 희소성, 구조, 스케일링, 안정성을 체계적으로 전개한다. 첫 장에서는 선형 시스템 Ax = b 의 기본 모델을 제시하고, 각 축이 알고리즘 설계에 미치는 영향을 개념적으로 정리한다. 이어지는 2장에서는 전통적인 가우스 소거법, 피벗 선택, LU·Doolittle 분해의 복잡도 분석을 수행하고, 희소 행렬에 적용할 때 발생하는 ‘채우기(fill‑in)’ 현상을 그래프 이론(특히 순열 그래프와 엘리미네이션 트리)으로 모델링한다. 3장에서는 그래프 기본 개념, 깊이 우선 탐색, 순서 관계, 그리고 허거 알고리즘을 소개함으로써 행렬 구조를 그래프 형태로 추상화한다.

4·5장은 각각 비대칭·대칭 희소 행렬에 대한 특수 소거 기법을 다룬다. 비대칭 경우에는 로컬 채우기 최소화를 위한 프리포지션 기법과 P3 휴리스틱을 제시하고, 대칭 경우에는 엘리미네이션 트리와 코디얼 그래프를 이용해 최소 차단 순서를 찾는 방법을 설명한다. 구조적 관점에서는 블록 삼각형·블록 각형 형태를 정의하고, 하이퍼그래프 분할을 통해 블록 구조를 자동 탐지하는 절차를 제시한다.

6·7장은 블록 구조와 병렬화에 초점을 맞춘다. 블록 행렬의 QR·Cholesky 분해, 내적 공간 정의, 최소제곱 문제와 사각형 프로그래밍에의 적용을 상세히 서술한다. 또한, 병렬 구현을 위한 데이터 분산 전략, 메모리 공유와 메시지 전달 모델을 비교하고, 병렬 효율성을 좌우하는 희소성·구조 상호작용을 분석한다.

8·9장은 부동소수점 연산의 스케일링 오류와 수치 안정성을 다룬다. 스케일링 시스템, 스칼라 곱 오류, 행렬 스케일링 기법을 통해 정밀도 손실을 최소화하는 방법을 제시하고, 조건수, 노름, 그리고 작은 섭동에 대한 민감도 분석을 통해 LU·QR·Cholesky 분해의 안정성을 평가한다.

마지막 10장은 베이스 업데이트(행/열 교체) 문제를 다루며, 행렬 역의 효율적 갱신 알고리즘을 제시한다. 이는 대규모 최적화, 특히 네트워크 흐름 문제에서 반복적으로 행렬을 수정해야 하는 상황에 직접 적용 가능하다. 전체 교재는 MATLAB, FORTRAN‑90, C/C++ 등 실험적 프로토타이핑 환경을 권장하며, 각 장마다 연습 프로그램과 구현 예제를 제공한다.

요약하면, 이 교과서는 희소·구조 행렬의 이론적 배경을 그래프·하이퍼그래프 모델링과 연결하고, 실제 대규모 과학·공학 문제에 적용 가능한 고성능 알고리즘과 병렬 구현 전략을 포괄적으로 제시한다.