다중 측정 벡터를 위한 희소 랜덤 카치마르즈 알고리즘 확장
초록
본 논문은 공통 희소 지지를 갖는 다중 측정 벡터(MMV) 문제를 해결하기 위해 기존의 희소 랜덤 카치마르즈(SRK) 알고리즘을 수정한 SRK‑MMV를 제안한다. 행‑희소성을 유지하도록 지원 집합을 ℓ₂‑노름 기준으로 선택하고, 각 측정에 대해 개별 투영을 수행한다. 합성 데이터와 영상 기반 얼굴 인식 실험에서, 동일한 연산량(공정성 제약) 하에 스펙트럴 프로젝티드 그라디언트 기반 SPG‑MMV보다 빠른 수렴과 높은 복구 정확도를 보였다.
상세 분석
SRK‑MMV 알고리즘은 기존 SRK가 단일 측정 벡터(SMV)에 적용되는 방식을 다중 측정 상황에 맞게 두 단계에서 변형한다. 첫 번째 변형은 지원 집합(S) 선택이다. SRK는 현재 추정 벡터 x의 절대값이 큰 상위 ˆk개의 인덱스를 선택했지만, MMV에서는 행‑희소성을 확보해야 하므로 각 행의 ℓ₂‑노름 ‖X_{i,:}‖₂를 계산해 가장 큰 행을 선택한다. 이렇게 하면 모든 열이 동일한 비제로 행을 공유하도록 강제한다. 두 번째 변형은 투영 단계이다. 기존 SRK는 선택된 행 a_i와 해당 스칼라 b_i에 대해 하나의 업데이트를 수행한다. SRK‑MMV는 L개의 측정 벡터 각각에 대해 동일한 가중치 w_j를 사용해
x^{(ℓ)} ← x^{(ℓ)} + (b_i^{(ℓ)} – ⟨w_j⊙a_i, x^{(ℓ)}⟩) (w_j⊙a_i) / ‖w_j⊙a_i‖₂²
를 L번 반복함으로써 행‑희소 구조를 유지하면서 전체 행렬 X를 동시에 갱신한다. 행 선택 확률은 기존 RK와 동일하게 ‖a_i‖₂² / ‖A‖_F² 로 정의되어, 큰 에너지의 행이 더 자주 선택돼 수렴 속도가 가속된다.
알고리즘은 초기 희소도 추정 ˆK에 민감한데, 실험 결과 ˆK가 실제 비제로 행 수 K보다 약 2배 정도 클 때 최적의 복구 정확도를 보였다. 이는 초기 지원 집합이 충분히 넓어야 실제 비제로 행을 모두 포함하고, 이후 반복에서 불필요한 행을 점진적으로 제외할 수 있기 때문이다. 그러나 K가 크고 ˆK가 과소추정될 경우 복구 성능이 급격히 저하되는 단점이 있다.
성능 비교에서는 SPG‑MMV와 공정성 제약(동일한 행‑벡터 곱 연산 수) 하에 실험하였다. SRK‑MMV는 510 회의 전체 스윕(각 스윕당 m번의 행 선택)만에 상대 오류가 10⁻³ 수준으로 수렴했으며, SPG‑MMV는 동일 연산량에서 10⁻² 수준에 머물렀다. 또한, 얼굴 인식 비디오 데이터에 적용했을 때 클래스별 잔차 기반 분류 정확도가 SPG‑MMV 대비 35% 향상되었다.
이론적 보장은 제시되지 않았으며, 가중치 w_j와 지원 집합 업데이트가 휴리스틱에 기반한다는 점이 한계이다. 또한, 행 선택 확률 계산을 위해 전체 ‖A‖_F가 필요하므로 대규모 희소 연산자(예: FFT)와 결합할 때 추가적인 구현 고려가 필요하다. 그럼에도 불구하고, 메모리 효율성과 단순한 구현(벡터‑행 연산만) 덕분에 실시간 혹은 임베디드 환경에서 MMV 문제를 해결하는 실용적인 대안이 될 수 있다.
댓글 및 학술 토론
Loading comments...
의견 남기기