동적계획법 기반 미분 가능한 배낭 및 상위k 연산

초록

본 논문은 배낭 문제와 상위k 선택 연산을 동적계획법(DP) 형태로 재구성하고, DP의 max 연산에 정규화를 적용해 연속적이고 미분 가능한 완화 버전을 제안한다. 샤논 엔트로피가 유일하게 순열 등변성을 보장함을 증명하고, Gini·Tsallis 정규화가 희소성을 제공한다. 효율적인 병렬 구현과 역전파를 위한 벡터‑Jacobian 곱을 설계했으며, 여러 실험에서 기존 방법을 능가한다.

상세 분석

이 연구는 조합 최적화 연산을 신경망에 직접 삽입하려는 시도에서 발생하는 ‘그라디언트 사각지대’를 근본적으로 해소한다. 핵심 아이디어는 배낭 문제와 상위k 문제를 동일한 DP 재귀식 V