행렬 방정식 AXB C 해결을 위한 탐욕적 무작위 블록 카츠마르즈 방법 및 컬러 이미지 복원 적용

초록

본 논문은 대규모 행렬 방정식 AXB=C 를 풀기 위해 탐욕적 무작위 블록 카츠마르즈(ME‑GRBK) 알고리즘과 그 완화·결정적 변형을 제안한다. 일관된 경우 유일 최소노름 해에 빠르게 수렴함을 증명하고, 기존 무작위 블록 방법(ME‑RBK)보다 이론적·실험적 수렴 속도가 우수함을 보인다. 또한 블록 카츠마르즈(ME‑BK) 방법이 일관된 경우 A⁺CB⁺+X⁰−A⁺AX⁰BB⁺ 해로 수렴함을 밝혀냈으며, 컬러 이미지 복원 실험을 통해 실용성을 확인한다.

상세 분석

본 연구는 Kaczmarz 방법의 행-열 액션 특성을 활용하여 대규모 행렬 방정식 AXB=C 를 효율적으로 해결하고자 한다. 기존의 무작위 Kaczmarz(RK)와 그 변형인 무작위 블록 Kaczmarz(ME‑RBK)는 행 선택 확률을 ‖A_i‖²/‖A‖_F² 로 두어 기대 수렴률을 확보했지만, 행의 잔차 크기를 고려하지 않아 실제 수렴 속도가 제한적이었다. 이를 개선하기 위해 저자들은 “탐욕적” 선택 기준을 도입, 각 반복에서 현재 잔차 r_i = C_i,: – A_i,: X_k B 의 2‑노름이 가장 큰 행을 선택하도록 설계하였다. 이 선택은 확률적이면서도 잔차가 큰 블록을 우선적으로 업데이트하므로, 수렴 상수 ρ 가 기존 방법보다 작아짐을 이론적으로 증명한다(정리 2.2, 3.3).

알고리즘은 세 가지 형태로 제시된다. ① ME‑GRBK: 탐욕적 확률에 기반한 블록 선택; ② ME‑RGRBK: 탐욕적 기준에 완화 파라미터 α (0<α<2‖B‖_2²) 를 곱해 선택 확률을 부드럽게 조정; ③ ME‑MWRBK: 최대 가중 잔차(MWRK) 아이디어를 블록에 적용하여 선택 확률을 ‖A_i‖·‖r_i‖ 에 비례시킨다. 모든 변형은 일관된 경우 유일 최소노름 해 X* = A⁺ C B⁺ 에 대한 선형 수렴을 보이며, 수렴 상수는 α,‖A‖,‖B‖,최소 특이값 σ_min(A),σ_min(B) 에 의해 결정된다. 특히 완화 버전은 α 값을 조절함으로써 수렴 속도를 상황에 맞게 최적화할 수 있다.

또한 블록 Kaczmarz(ME‑BK) 방법을 별도로 분석한다. 여기서는 매 반복마다 행 인덱스를 순환적으로 선택하고, 블록 업데이트를 수행한다. 정리 3.3에 따르면, ME‑BK는 초기값 X⁰ 에 대해 X⁰* = A⁺ C B⁺ + X⁰ – A⁺ A X⁰ B B⁺ 해로 수렴한다. 이는 일반적인 Kaczmarz가 최소노름 해에 수렴하는 것과 달리, 초기값에 대한 보정항을 포함한 해로 수렴함을 의미한다. 증명 과정에서는 블록 업데이트가 A⁺A 와 B B⁺ 의 투영 연산을 반복 수행함을 이용해, 수렴 한계가 위와 같은 형태임을 보였다.

수렴 분석은 모두 기대값(E_k)와 확률적 선택을 이용한 마르코프 체인 기법을 활용한다. Lemma 2.1은 행렬의 최소 특이값과 노름 사이의 기본 부등식을 제공하여 수렴 상수 도출에 핵심적인 역할을 한다. 또한, ME‑GRBK와 ME‑RGRBK는 확률 선택이 최대 잔차에 편향되므로, 기대값이 기존 무작위 방법보다 더 큰 감소량을 보인다. 실험에서는 합성 랜덤 행렬과 실제 이미지 데이터에 대해 평균 반복 횟수와 CPU 시간으로 비교했으며, 모든 경우에서 제안 방법이 20~40% 정도 빠른 수렴을 보였다.

마지막으로 컬러 이미지 복원 문제에 적용하였다. 이미지 복원은 AXB=C 형태로 모델링되며, A와 B는 각각 행/열 방향의 블러링 및 다운샘플링 연산을 나타낸다. 제안된 ME‑GRBK 계열은 복원된 이미지의 PSNR 및 SSIM 지표에서 기존 ME‑RBK와 전통적인 Jacobi/GS 방법보다 우수한 성능을 기록했다. 특히, 탐욕적 블록 선택이 고주파 성분을 빠르게 회복하는 데 기여함을 시각적으로도 확인하였다. 전체적으로 이 논문은 대규모 행렬 방정식 해결에 있어 선택 전략을 최적화함으로써 이론적·실험적 이점을 동시에 제공한다.