MumfordShah 함수의 이차 최소조건

초록

새로운 2차 변분을 이용하여 Mumford‑Shah 함수에 대한 필요 최소조건을 도출하였다. 이 조건은 불연속 집합의 정칙 부분에 속한 하위 다양체 Γ 위의 (H^{1}_{0}(\Gamma)) 함수에 대한 비국소적인 2차 형식의 부호 조건으로 표현된다. 두 가지 동등한 서술이 제시되는데, 하나는 적절히 정의된 콤팩트 연산자의 첫 번째 고유값에 관한 것이고, 다른 하나는 Γ 의 일종의 비국소 용량을 이용한 것이다. 또한 최소성을 보장하는 충분조건도 얻어진다. 마지막으로 구체적인 예시를 통해 두 번째 변분이 비음수가 되는 영역을 완전히 규정할 수 있음을 보여준다.

상세 요약

Mumford‑Shah 함수는 영상 복원·분할 분야에서 핵심적인 변분 모델로, 함수 (u)와 그 불연속 집합 (K)를 동시에 최적화한다. 기존 연구에서는 1차 변분을 통해 얻어지는 오일러‑라그랑주 방정식과 경계 조건이 최소점(또는 임계점)의 필요조건으로 활용되어 왔지만, 실제 최소성 여부를 판단하기엔 충분하지 않다. 본 논문은 이러한 한계를 극복하고자 2차 변분을 체계적으로 전개한다.

우선, 임계점 ((u,K))의 불연속 집합 (K)의 정칙 부분에 포함된 매끄러운 하위 다양체 (\Gamma)를 선택한다. (\Gamma) 위에서 정의된 Sobolev 공간 (H^{1}_{0}(\Gamma))의 변분 방향을 고려하면, 2차 변분은 일반적인 국소적인 이차 형태가 아니라, (\Gamma) 전역에 걸쳐 상호작용하는 비국소적인 이차 형식 (Q