분산형 유연 비선형 텐서 분해
본 논문은 기존 텐서-가우시안 프로세스(TGP) 기반 비선형 텐서 분해 모델이 갖는 계산 복잡도와 극심한 희소성에 따른 학습 편향 문제를 해결하기 위해, 크로네커 곱 구조를 없애고 임의의 텐서 항목을 선택적으로 학습에 활용할 수 있는 분산형 유연 비선형 텐서 분해 모델을 제안한다. 변분 증거 하한(ELBO)을 새롭게 유도해 고도로 분리된 병렬 연산이 가능하도록 하였으며, MapReduce(특히 Spark) 환경에서 키‑값 없이 전역 그래디언트를…
저자: Sh, ian Zhe, Kai Zhang
1. 연구 배경 및 문제점
텐서는 다차원 배열로, 사용자·광고·컨텍스트와 같은 다중 관계를 모델링하는 데 활용된다. 전통적인 Tucker·CP 분해는 선형 상호작용만을 포착하므로 복잡한 비선형 관계를 놓친다. 최근 InfTucker는 텐서‑변량 가우시안 프로세스(TGP)를 도입해 무한 차원의 비선형 특성을 모델링했지만, (i) 모든 모드에 대한 크로네커 곱으로 전체 텐서 공분산을 구성하므로 메모리·시간 복잡도가 급증하고, (ii) 실제 데이터는 0‑항목이 압도적으로 많아 학습에 포함하면 편향이 발생한다는 두 가지 한계가 있다.
2. 제안 모델의 핵심 아이디어
- **유연한 입력 구성**: 각 모드 k의 잠재 요인 행렬 U^{(k)}∈ℝ^{d_k×r_k}에서 해당 인덱스 i_k에 해당하는 행을 추출하고, 이를 연결해 x_i=
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기