보통 소거법이 가우스 소거법이 되다

초록

뉴턴이 남긴 미공개 메모에서 시작된 연립방정식 해법이, 오일러와 레젤리에르의 비판을 넘어 가우스가 최소제곱 계산을 위해 만든 특수 기호 체계와 손계산 최적화 기법을 통해 현대의 “가우스 소거법”으로 정착한다.

상세 분석

본 논문은 가우스 소거법의 기원과 명명 과정을 역사·수학·계산학적 관점에서 재조명한다. 뉴턴이 ‘보통 소거법(ordinary elimination)’이라 부른 절차는 실제로는 선형 방정식에 국한되지 않은 일반적인 연립방정식 해법이었다. 뉴턴은 이 방법을 ‘보통’이라 표현했지만, 오일러는 그 효율성에 회의적이었고, 레젤리에르는 “보통”이라는 명칭 자체를 비판했다. 그럼에도 불구하고 19세기 초 가우스는 천문 관측 데이터의 최소제곱 적합을 수행하면서, 연산 과정을 체계화하기 위해 독자적인 기호 체계와 단계별 손계산 최적화 규칙을 도입했다. 가우스가 만든 ‘표’(표준형 행렬)와 ‘소거’(elimination) 단계는 실제 계산에서 반복적으로 사용되는 덧셈·뺄셈·곱셈을 최소화하도록 설계되었으며, 이는 당시 ‘전문 컴퓨터’라 불리던 사람들에게 큰 호응을 얻었다. 이러한 실무적 도구가 널리 퍼지면서, ‘보통 소거법’은 가우스가 사용한 표기법과 연산 최적화와 동등시되었고, 결국 ‘가우스 소거법’이라는 명칭으로 고착되었다. 논문은 또한 20세기 초 행렬 이론의 발달이 이 절차를 추상화·일반화하는 데 결정적 역할을 했음을 강조한다. 행렬 연산으로의 전환은 가우스가 만든 구체적 손계산 규칙을 ‘행렬 곱’과 ‘역행렬’ 개념으로 대체함으로써, 현대 선형대수학 교과서에 등장하는 표준 알고리즘으로 자리 잡게 했다. 따라서 가우스 소거법은 순수 수학적 발견이라기보다, 실무적 필요와 계산 도구의 진화가 결합된 역사적 산물임을 확인한다.