엣지 기반 SMoE 커널 초기화로 빠른 이미지 모델링

초록

본 논문은 Canny 엣지 검출과 선분 추출을 이용해 Steered Mixture‑of‑Experts(SMoE) 모델의 커널 위치와 방향을 결정하는 새로운 초기화 기법을 제안한다. 정밀한 엣지 정렬을 통해 초기 파라미터를 결정함으로써 기존의 반복적 그래디언트 최적화에 비해 학습 시간과 메모리 사용량을 크게 감소시키면서도 PSNR·SSIM 측면에서 경쟁력 있는 복원 품질을 유지한다.

상세 분석

SMoE는 이미지의 국소 구조를 가우시안 커널과 가중치의 소프트맥스 조합으로 표현하는 회귀 모델이다. 기존 연구에서는 커널의 위치·스케일·방향·전문가 가중치를 전부 이미지마다 최적화하는 전통적인 그래디언트 기반 방법을 사용했으며, 이는 연산량이 방대하고 GPU 의존도가 높아 실시간 혹은 대규모 적용에 제약이 있었다. 본 논문은 이러한 병목을 해소하기 위해 “엣지 정렬 초기화”라는 전처리 단계를 도입한다. 먼저 Canny 엣지 검출기로 이진 엣지 마스크를 얻고, 0°, 90°, 45°, ‑45° 네 가지 기본 방향으로 스캔하여 최대 연결 선분을 추출한다. 각 선분은 중앙점과 방향을 갖는 후보 커널 위치(p,θ)로 변환된다. 이후 중요도 점수 s_i를 정의해 동일 방향 이웃과 다른 방향 이웃 간 평균 거리(d_sim, d_dis)를 가중합한다(λ=0.1). 점수가 낮은 후보는 DBSCAN 기반 클러스터링으로 합쳐지고, 클러스터 중심과 최빈 방향이 최종 커널 후보가 된다. 이렇게 하면 과도한 중복을 방지하면서도 구조적으로 의미 있는 영역에 커널을 집중시킬 수 있다. 커널 자체는 선분에 수직으로 두 개씩 배치하고, 등방성 스티어링 행렬 Σ=½Δµ²I 로 초기화한다. 전문가 가중치 m은 커널 중심의 원본 픽셀 값으로 초기화하고, 작은 학습률 η=0.1을 사용해 몇 차례의 간단한 오류 보정(식 11‑12)만 수행한다. 이 단계는 완전한 그래디언트 최적화에 비해 연산량이 미미하지만, 이후 타일 기반의 미세 조정 단계에서 빠른 수렴을 가능하게 한다. 실험에서는 Barbara, Flowers, Parrots, Peppers 등 4개의 그레이스케일 테스트 이미지에 대해 기존 균일 그리드 초기화, S‑SMoE, AS‑SMoE와 비교하였다. PSNR·SSIM 면에서는 S‑SMoE·AS‑SMoE에 약간 뒤처지지만, 전체 학습 시간은 30‑50% 정도 단축되었다. 특히 커널 수 대비 재구성 기여도가 높아 정규화와 프루닝 과정에서 손실이 적었다. 논문은 또한 향후 비선형 선분 모델링을 통한 Σ 초기화 개선 가능성을 제시한다. 전체적으로, 엣지 기반 초기화는 SMoE의 실용성을 크게 높이는 전략으로, 메모리 제약이 있는 임베디드 환경이나 실시간 압축·복원 파이프라인에 유용할 것으로 판단된다.