비선형 역연산을 위한 새로운 의사역신경망: SPNN과 NLBP

초록

본 논문은 선형 시스템에서의 Moore‑Penrose 의사역을 비선형 신경망에 일반화한다. 저자들은 Surjective Pseudo‑invertible Neural Network(SPNN)라는 차원 축소 구조를 제안하고, 이를 통해 정의된 비선형 의사역(g†)이 Penrose 식의 첫 두 항을 만족하도록 설계한다. 또한 비선형 백프로젝션(NLBP) 알고리즘을 도입해, 임의의 비선형 손상 함수에 대해 제로샷 복원 및 의미 제어가 가능함을 보인다.

상세 분석

이 논문은 두 가지 근본적인 문제를 동시에 해결한다. 첫 번째는 “비선형 의사역”이라는 개념을 수학적으로 정립하는 것이며, 두 번째는 이를 실제 신경망 구조에 구현해 실용적인 역문제 해결에 적용하는 것이다. 기존 선형 경우에 Moore‑Penrose 의사역은 네 개의 Penrose 항목을 만족함으로써 최소‑노름 해와 직교 투영을 보장한다. 비선형 상황에서는 adjoint 연산이 정의되지 않으므로 마지막 두 항목을 포기해야 한다. 저자들은 첫 두 항목(g g† g = g, g† g g† = g†)만을 유지하면서, “Bijective Completion”이라는 새로운 개념을 도입한다. 즉, 원래의 비선형 사상 g:X→Y를 고차원 공간 Y×Z와의 전단사 G(x)=