압축 블록‑컨볼루션 LISTA를 위한 저랭크 분해 기반 모델

초록

본 논문은 다채널 초음파 영상의 희소 신호 복원을 위해, 물리 기반 전·후방 연산자를 저랭크 컨볼루션 신경망 형태로 분해하고, OMP로 선택된 소수의 Basis Filter를 이용해 모델을 압축한다. 압축된 BC‑LISTA(C‑BC‑LISTA)는 파라미터 수와 저장 용량을 크게 줄이면서도 기존 SOTA 방법보다 빠른 수렴과 높은 복원 정확도를 달성한다.

상세 분석

이 연구는 희소 신호 복원(SSR) 문제를 다채널 시간 지연 기반 측정 시스템에 적용하면서, 전통적인 ISTA/ LISTA 구조가 요구하는 대규모 행렬 연산을 구조적으로 축소하는 새로운 접근법을 제시한다. 핵심 아이디어는 물리적으로 유도된 전방 연산자 A가 블록‑Toeplitz 형태를 가지며, 이는 1‑D 컨볼루션 레이어들의 집합으로 정확히 재구성될 수 있다는 점이다. 이러한 컨볼루션 커널 행렬 W는 실제 측정 환경에서 저랭크 특성을 보이며, 많은 필터가 서로 스케일·시프트 관계에 있다. 저랭크 특성을 이용해 W≈C·B 형태로 분해하고, B는 원본 커널 중 일부 행(row)만 선택한 Basis Filter 집합, C는 각 출력 채널을 이들 Basis Filter의 선형 결합으로 재구성하는 혼합 행렬이다.

저랭크 분해를 위한 두 가지 방법을 비교했는데, SVD는 최적의 Frobenius 오차를 제공하지만 필터의 희소성·구조를 보존하지 못한다. 대신 OMP(Orthogonal Matching Pursuit)를 사용해 W의 행을 순차적으로 선택함으로써, 선택된 행 자체가 실제 물리 커널이므로 희소성 및 구조적 제약을 유지한다. OMP는 각 단계에서 현재 잔차와 가장 높은 상관 에너지를 갖는 행을 선택하고, 선택된 행 집합 S에 대해 최소제곱 해를 통해 C를 계산한다. 이 과정을 M번(또는 잔차가 충분히 작아질 때까지) 반복하면, 파라미터 수는 기존 C_out·K에서 M·(K+C_out)으로 감소한다.

선택된 Basis Filter B와 혼합 행렬 C를 실제 신경망에 적용하기 위해, 저랭크 컨볼루션 분해 기법을 차용한다. 첫 번째 레이어는 1‑D 컨볼루션으로 B를 적용해 M개의 중간 채널(z_j)을 생성하고, 두 번째 레이어는 1×1 컨볼루션(즉, 행렬 곱)으로 C를 적용해 최종 출력 채널을 복원한다. 이 두‑레이어 구조는 원본 단일 1‑D 컨볼루션 레이어와 정확히 동일한 연산을 수행하지만, 메모리와 연산량이 크게 절감된다. 또한 역전파 시 전방 모델의 전치(convolution transpose)를 동일한 B와 C로 구성하면, 역연산 역시 정확히 구현되므로 학습 과정에서의 그래디언트 손실이 없다.

C‑BC‑LISTA는 이러한 압축 전방 연산자를 LISTA 블록에 그대로 삽입한 형태이다. 각 LISTA 블록은 (1) 압축된 전방 컨볼루션, (2) 전방의 전치(convolution transpose) 및 (3) 학습 가능한 소프트‑스레시홀드 λ/L을 포함한다. 파라미터 공유 전략을 통해 모든 블록에서 동일한 B, C를 고정하고, 스레시홀드만 블록별로 독립적으로 학습하도록 설계함으로써 파라미터 수를 최소화한다.

실험에서는 32채널 FMC(Full Matrix Capture) 초음파 시뮬레이션을 사용했으며, SNR을 5 dB20 dB 구간에서 변동시켰다. C‑BC‑LISTA는 M=16, 32, 64의 Basis Filter 수에 대해 평가되었으며, M을 늘릴수록 초기 수렴 속도가 빨라지지만 최종 손실은 비슷한 수준에 도달한다. 정량적 지표인 Percentual Amplitude Error(PAE)와 Support Error(SE)에서, C‑BC‑LISTA는 기존 MLP‑LISTA, ALIST‑A, BC‑LISTA보다 23배 적은 파라미터(수백만 개 → 수십만 개)와 수 GB 수준의 저장 용량으로 동일하거나 더 낮은 PAE·SE를 기록했다. 특히, OMP 기반 초기화가 SVD나 무작위 초기화보다 훈련 초기 단계에서 손실 감소가 현저히 빠르고, 최종 성능에서도 우위를 점했다.

이 논문의 주요 기여는 (1) 물리 기반 연산자의 저랭크·컨볼루션 구조를 명시적으로 활용한 압축 프레임워크, (2) OMP를 통한 구조 보존 기반 Basis Filter 선택 방법, (3) 저랭크 CNN 분해를 LISTA에 적용해 파라미터와 메모리 효율을 극대화한 C‑BC‑LISTA 모델, (4) 초음파 다채널 영상 복원이라는 실제 응용에서 SOTA 대비 뛰어난 재구성 정확도와 학습 효율을 입증한 실험 결과이다. 이러한 접근은 다른 시간 지연 기반 측정(레이더, 소나 등)이나 저랭크 선형 연산이 존재하는 분야에도 일반화 가능성을 제공한다.