Fejér 단조성의 새로운 시각과 한계 사례

초록

본 논문은 2024년에 제안된 Fejér* 단조성 개념을 체계적으로 탐구한다. Fejér와 기존 Fejér 단조성 사이의 근본적인 차이를 밝히고, 최대 Fejér 집합(lim Cₙ)의 성질을 제시한다. 상대 내부가 비어 있지 않은 경우에는 Fejér* 수열이 Fejér 수열과 유사한 수렴 특성을 보이지만, 일반적인 경우에는 거리 감소, 그림자 수열 수렴, 약한 수렴 등에서 예상과 다른 현상이 나타난다. 또한 Opial 수열, 준‑Fejér 단조성 등과의 관계를 정리하고, 다양한 제한 예시와 반례를 제공한다.

상세 분석

논문은 먼저 Fejér* 단조성(Definition 1.2)을 “점별로 결국 비증가하는 거리”라는 조건으로 정의하고, 이를 Cₙ = {y | ‖xₙ₊₁−y‖ ≤ ‖xₙ−y‖} 로 표현한다. 이때 lim Cₙ = ⋂{N}⋃{n≥N} Cₙ 가 최대 Fejér* 집합임을 Proposition 2.9에서 증명한다. 흥미롭게도 lim Cₙ 은 일반적으로 닫히지 않을 수 있으며(예 3.2), 반면 전통적인 Fejér 수열에서는 ∩_{n} Cₙ 가 닫힌 집합이다.

Fejér* 수열은 항상 bounded하고 Opial 성질을 갖는다(Prop 2.2). 따라서 Opial’s Lemma와 강수렴 결과(Fact 2.4‑2.5)도 적용 가능하지만, Fejér* 수열은 Fejér 수열에서 기대되는 여러 정리와는 달리 행동한다. 예를 들어, Fejér* 수열은 거리 d_M(xₙ) 가 결국 증가할 수도 있고(예 3.14), 투영(P_M xₙ) 가 약하게 수렴하지 않을 수도 있다(예 3.19(iv)). 또한 M 이 affine 하위공간일 때, xₙ ⇀ P_M x₀ 라는 전통적 결과가 깨진다(예 3.5).

상대 내부(ri M)가 비어 있지 않을 경우, 상황이 크게 개선된다. Theorem 4.1에 따르면, ri M 에 포함된 비어 있지 않은 compact 집합 K 에 대해 xₙ 은 결국 K 에 대해 Fejér 단조성을 만족한다. 이는 weak compactness만으로는 충분하지 않으며(예 4.3) 강한 가정이 필요함을 보여준다. 또한 Corollary 4.7은 aff(M) 내부의 폐곡선 C 에 대해 투영 수열이 유한 길이 궤적을 가지며 강수렴한다는 새로운 결과를 제공한다. 이 결과는 Fejér* 설정에서도 새롭게 발견된 것이며, 기존 Fejér 문헌에서는 언급되지 않았다.

방향성 측면에서는 Theorem 5.5가 핵심이다. xₙ → z 라는 전제 하에 K = cone(M−z) 로 정의하고, 연속적인 항이 서로 다르면 (xₙ−xₙ₊₁)/‖·‖ 의 약한 극한 집합이 K⁻에 포함된다. 이는 Fejér 경우에 알려진 결과를 일반화한다. 유한 차원에서는 Corollary 5.7이 더 강력하게 d_K(xₙ−z)/‖xₙ−z‖ → 1 을 보이며, 이는 수열이 K 방향으로 거의 직선적으로 접근함을 의미한다. 또한 ri M = ∅ 인 경우에도 일정 상수 Γ>0 존재해 ‖xₙ−z‖ ≤ Γ d_K(xₙ−z) 가 성립한다(Theorem 5.10). 이러한 정량적 추정은 예 4.3, 5.12와 같이 한계 사례를 통해 최적임을 확인한다.

최대 Fejér* 집합과 Opial 집합의 구조적 설명도 제공한다. Theorem 6.3은 int(M)=∅ 일 때, lim Cₙ 를 약한 극한들의 정규화된 차이 벡터들의 극대극(극점)과 극소극(극점) 사이의 극대극(극점)으로 기술한다. Opial 집합에 대해서도 유사한 기술(Theorem 6.13)이 가능하다.

마지막으로 Fejér*, Fejér와 quasi‑Fejér 유형(I, II, III) 사이의 관계를 정리한다. Fejér 수열은 자동으로 quasi‑Fejér III 이지만, M 이 bounded하고 ri M = ∅ 일 때는 quasi‑Fejér II 로도 강화될 수 있다(Proposition 7.8). 더 나아가 int(M)=∅이면 quasi‑Fejér I 가 된다(Corollary 7.12). Theorem 7.14는 ri M ≠ ∅ 인 경우에도 대부분 quasi‑Fejér I 가 성립함을 보여, 실패 가능한 경우가 극히 제한적임을 강조한다. 최종적으로 Corollary 7.15는 closed M 와 ri M = ∅ 일 때 Fejér* 수열이 항상 quasi‑Fejér I 임을 정리한다.

전체적으로 논문은 Fejér* 단조성의 이론적 토대를 크게 확장하고, 기존 Fejér 이론과의 차이를 명확히 하며, 실제 알고리즘 분석에 활용 가능한 정량적·정성적 도구들을 제공한다. 특히 상대 내부가 비어 있지 않을 때 나타나는 ‘Fejér‑like’ 행동은 새로운 수렴 보증을 설계하는 데 유용할 것으로 기대된다.