압축 인식 샤프니스 최소화로 경량 강인 딥러닝 구현

압축 인식 샤프니스 최소화로 경량 강인 딥러닝 구현
안내: 본 포스트의 한글 요약 및 분석 리포트는 AI 기술을 통해 자동 생성되었습니다. 정보의 정확성을 위해 하단의 [원본 논문 뷰어] 또는 ArXiv 원문을 반드시 참조하시기 바랍니다.

초록

본 논문은 Sharpness‑Aware Minimization(SAM)을 모델 파라미터가 아닌 프루닝 마스크에 적용해, 구조적 평탄성을 확보함으로써 압축된 신경망에서도 입력 변동에 강인한 성능을 달성하는 C‑SAM 프레임워크를 제안한다. 실험 결과, 다양한 데이터셋·아키텍처에서 기존 방법 대비 인증된 견고성을 최대 42% 향상시키면서 정확도는 유지한다.

상세 분석

C‑SAM은 기존 SAM이 연속적인 파라미터 공간에서 손실 평탄성을 추구하는 한계를 넘어, 이산적인 구조 변화(프루닝)와 연계된 평탄성을 직접 최적화한다는 점에서 혁신적이다. 핵심 아이디어는 ‘마스크 변수’를 연속적인 소프트 마스크 C∈


댓글 및 학술 토론

Loading comments...

의견 남기기