희소 베이지안 딥 함수 학습과 구조적 영역 선택

본 논문은 현대의 다양한 분야—ECG 모니터링, 신경영상, 웨어러블 센서, 산업 설비 진단 등—에서 발생하는 연속적이고 구조화된 함수형 데이터를 효과적으로 분석하기 위한 새로운 통계‑머신러닝 방법을 제안한다. 기존의 함수형 선형 회귀는 비선형 관계를 포착하지 못하고, 기존 딥러닝 기반 방법은 입력 함수의 어느 구간이 실제 예측에 기여하는지에 대한 해석 가능성을 제공하지 못한다는 한계가 있다. 이를 극복하고자 저자들은 ‘희소 베이지안 딥 함수 신경망(sBayFDNN)’을 고안하였다. 모델은 먼저 입력 함수 X_i(t) 를 로컬 B‑스플라인 기반으로 전개하여 Jₙ 개의 스플라인 피처 η_i = (x_{i1},…,x_{iJₙ})ᵀ 를 만든다. β(t) 는 동일한 B‑스플라인으로 근사되며, β의 계수 w 는 스플라인 피처와 선형 결합을 이루어 단일 지수 형태 ∫X_i(t)β(t)dt = η_iᵀw 를 만든다. 이 단일 지수 값을 비선형 함수 g\* 에 통과시켜 최종 예측 Y_i = g\*(η_iᵀw)+ε_i 를 얻는다. 비선형 함수 g\* 는 다층 피드포워드 신경망 F_θ 으로 대체한다. 핵심은 첫 번째 은닉층의 가중치 열 W₁,∗j 에 그룹 스파이크‑앤‑슬래브 사전(Spike‑and‑Slab prior)을 부여해, 각 스플라인 피처가 모델에 포함될 확률을 베르누이 변수 γ_j 로 제어한다. γ_j=0이면 해당 열은 거의 0에 수축(스파이크), γ_j=1이면 자유롭게 학습(슬래브)된다. 두 번째 층 이후의 가중치와 편향은 일반적인 정규 사전(N(0,σ²))을 사용한다. 베이지안 추론은 MAP(최대 사후 확률) 추정으로 수행된다. 전체 파라미터 θ 에 대해 손실 ½σ_ε^{-2}∑(Y_i−F_θ(η_i))² + −log π(θ) 을 최소화하고, 스토캐스틱 그래디언트(Adam 등)로 최적화한다. MAP 추정된 W₁,∗j 에 대해 베이즈 정리를 적용해 사후 포함 확률 q_j = Pr(γ_j=1|W₁,∗j) 를 계산한다. q_j는 열의 L₂‖‖norm‖‖에 단조적으로 의존하므로, 임계값 τ(기본 0.5) 보다 큰 경우 해당 스플라인을 ‘선택’한다. 선택된 스플라인들의 지원 구간을 합쳐 함수 도메인 T 상에 활성 영역 Ω̂ 을 정의하고, 인접 구간을 병합해 연속적인 구간 집합으로 표현한다. 이론적으로 저자들은 세 가지 주요 결과를 증명한다. 첫째, 함수 근사 오차에 대한 상한을 제시해, B‑스플라인 차원 Jₙ 과 네트워크 깊이 Hₙ 가 충분히 커지면 모델이 진짜 함수 g\*∘β 를 원하는 정밀도로 근사한다는 것을 보인다. 둘째, 사전 하이퍼파라미터가 적절히 스케일링될 경우 MAP 추정값이 진짜 파라미터에 확률적으로 수렴하는 사후 일관성을 확보한다. 셋째, 선택된 스플라인 집합 Ŝ 이 진짜 비영역 S\* 과 차이가 o_p(1) 가 되며, 강한 신호 구간 Ω\*(κ) 을 정확히 복원한다는 영역 선택 일관성을 증명한다. 이는 기존 딥러닝 기반 함수 회귀에서 거의 다루어지지 않았던 통계적 신뢰성을 제공한다. 실험 부분에서는 (1) 다양한 시뮬레이션 시나리오(β(t)의 비선형 변형, 잡음 수준, 희소성 정도)에서 sBayFDNN이 예측 RMSE와 영역 재현율(F1 점수) 모두에서 기존 선형·스파스·비선형·딥러닝 방법을 앞선다는 것을 확인했다. (2) 실제 ECG 데이터셋에서는 QRS 복합체와 ST 구간 등 임상적으로 중요한 구간을 정확히 식별했고, 예측 정확도에서도 최신 심전도 분석 모델을 능가했다. (3) 뇌영상 fMRI 데이터에서는 특정 시간‑주파수 대역이 인지 과제와 강하게 연관됨을 밝혀냈으며, (4) 산업 설비 진단 데이터에서는 고장 전조 신호가 나타나는 좁은 주파수 구간을 성공적으로 탐지했다. 모든 실험에서 사후 포함 확률을 이용한 불확실성 정량화가 제공되어, 의사결정 과정에서 신뢰 구간을 활용할 수 있었다. 결론적으로, 본 논문은 함수형 데이터의 비선형성, 지역적 희소성, 그리고 베이지안 불확실성 정량화를 하나의 통합 프레임워크로 결합한 최초의 모델을 제시한다. 구조화된 스파이크‑앤‑슬래브 사전이 DNN의 ‘블랙 박스’ 특성을 완화하고, 해석 가능한 영역 선택을 가능하게 함으로써 의료·신경과학·산업 현장에서 실용적인 의사결정 지원 도구로 활용될 잠재력을 보여준다.