비산란과 전이 고유값: 헬름홀츠 방정식에서의 새로운 시각

초록

이 논문은 선형 헬름홀츠 방정식 하에서 비산란 현상과 전이 고유값(Transmission Eigenvalues, TE)의 관계를 조사한다. 등방성·비등방성 매질을 모두 고려하며, TE가 존재한다고 해서 반드시 비산란이 일어나지는 않지만, 비산란이 일어나려면 매질이 충분히 매끄럽고 특정 자유경계 문제를 만족해야 함을 보인다. 구형 대칭 매질의 경우 TE와 비산란 파수는 일치한다는 구체적 결과도 제시한다.

상세 분석

본 논문은 헬름홀츠 방정식 ∆u + k²u = 0을 배경으로, 제한된 영역 D에 존재하는 물질 이질성 (A_D, n_D) 를 고려한다. 여기서 A_D는 대칭 양의 정부호 행렬, n_D는 양의 실함수이며, 둘 다 D 바깥에서는 단위값을 갖는다. 입사파 u_in이 D 내부에서 전파될 때, 산란파 u_sc는 외부에서 복사조건을 만족한다. 비산란 현상은 u_sc가 D 외부에서 영이 되는 경우이며, 이는 전이 고유값 문제(TEP)와 동치임을 보인다.

TEP는 두 개의 서로 다른 PDE(∇·A_D∇u + k²n_D u = 0, ∆v + k²v = 0)를 D 내부에서 풀고, 경계에서 u=v, ν·A_D∇u = ν·∇v 라는 Cauchy 조건을 만족하도록 하는 비자명 해(k, u, v)의 존재 여부를 묻는다. 이 문제는 비자기수반(non‑selfadjoint)이며, 고유값 k는 복소평면 전체에 존재할 수 있다.

핵심적인 결과는 다음과 같다. 첫째, k가 전이 고유값이면 비산란 파수일 필요조건이지만 충분조건은 아니다. 실제로 비산란이 일어나려면 입사파 v가 D 바깥까지 연장 가능한 Herglotz 파 형태여야 하며, 이는 매질의 정규성(특히 경계가 매끄럽고, A_D, n_D가 충분히 부드러움)과 연결된다. 둘째, 매질에 코너·날카로운 변곡점이 있으면 비산란이 불가능함을 기존 연구와 결합해 강조한다(코너, 모서리, 원뿔형 특이점은 모두 산란을 유발). 셋째, 자유경계 문제와의 연관성을 통해 비산란 매질이 실제로는 자유경계 해석에서 나타나는 ‘숨겨진’ 경계 조건을 만족하는 특수한 경우임을 보인다.

구형 대칭 경우(B₁(0), n(r))에서는 구면 조화와 구면 베셀 함수를 이용해 전이 고유값 조건을 명시적인 행렬식 d_ℓ(k)=0 형태로 도출한다. d_ℓ(k)는 전체함수이며, n(r)≡1이 아닌 경우 그 영점은 이산적이며 실수축이 무한히 존재한다. 특히 n(1)=1 혹은 평균 굴절률 M_n=1이면 모든 실수 고유값이 비산란 파수와 일치한다. 이때 입사파는 Herglotz 파 v_ℓ(r,θ)=j_ℓ(kr)Y_ℓ(θ) 형태이며, 각 ℓ에 대해 (2ℓ+1) 중복성을 가진다.

또한, 전이 고유값 문제를 연산자 형태로 재구성하여 T, T₁, T₂와 같은 자기수반 연산자를 도입하고, K₁, K₂를 통해 비자기수반 행렬 연산자 K를 정의한다. 이 구조는 전이 고유값이 컴팩트 연산자의 스펙트럼으로서 유한 차원의 고유공간을 갖는다는 사실을 보장한다.

마지막으로, 복소 전이 고유값의 존재 여부를 논의한다. 구형 대칭에서 n∈C³