스피커 검증을 위한 각도 기반 소프트맥스 손실 적용

본 연구는 스피커 검증 분야에서 전통적인 i‑vector 기반 접근법과 최근 각광받고 있는 엔드‑투‑엔드 딥러닝 기반 방법을 비교·분석하고, 특히 손실 함수 선택이 임베딩 품질에 미치는 영향을 집중적으로 탐구한다. 기존 i‑vector는 생성 모델(팩터 분석)로 음성 특성을 저차원 벡터로 압축하고, PLDA와 같은 확률적 판별 모델을 백엔드 스코어링에 활용한다. 반면 엔드‑투‑엔드 방식은 RNN, CNN, TDNN 등 다양한 네트워크 구조를 통해 직접 스피커 임베딩을 학습한다. 이때 핵심은 학습 목표를 정의하는 손실 함수이며, 일반적인 소프트맥스(교차 엔트로피) 손실은 클래스 분류에 최적화돼 있어 개방형 검증(open‑set) 상황에 한계가 있다. 이에 저자들은 얼굴 인식에서 제안된 Angular Softmax(A‑softmax) 손실을 스피커 검증에 적용한다. A‑softmax는 가중치와 입력을 정규화하고, 각도 마진 파라미터 m을 도입해 “cos (mθ) > cos θ′” 형태의 보다 엄격한 판별 기준을 만든다. 이는 동일 화자 샘플은 작은 각도로, 서로 다른 화자 샘플은 큰 각도로 배치되도록 강제해, 클래스 간 각도 마진을 확보한다. 수식적으로는 다중 클래스 상황에 맞게 손실을 정의하고, θ가 mπ 구간을 넘어설 때는 φ(θ) 함수를 사용해 연속성을 유지한다. 구현 시에는 다항식 전개를 통해 cos θ와 cos (mθ)를 가중치·입력만으로 계산하고, 역전파가 가능하도록 설계하였다. 실험은 Fisher 데이터셋의 일부를 사용해 진행되었다. 학습용으로 5,000명(남·여 각각 2,500명)의 화자를 선정하고, 평가용으로 겹치지 않는 1,000명(남·여 각각 500명)을 사용했다. 음성 특징은 23차원 MFCC(25 ms 프레임)이며, 3 초 윈도우 평균 정규화와 에너지 기반 VAD를 적용했다. 네트워크 구조는 Kaldi x‑vector와 동일하게 TDNN 기반 프레임 레이어(다양한 컨텍스트 윈도우)와 통계 풀링, 그리고 두 개의 전결합 레이어(512→3000, 3000→512)로 구성했으며, 배치 정규화 뒤 ReLU를 삽입해 학습 안정성을 높였다. 최적화는 SGD(초기 학습률 0.01, 매 epoch마다 0.9 감쇠)로 진행했으며, 학습은 학습률이 0.0001 이하가 될 때까지 약 100 epoch 수행했다. 비교 대상은 다음과 같다. (1) 전통적인 GMM‑UBM 기반 i‑vector 시스템(600 차원, PLDA 백엔드), (2) Kaldi x‑vector 시스템(softmax 손실, PLDA 백엔드), (3) 동일 네트워크 구조에 softmax 손실을 적용한 모델, (4) 동일 네트워크에 트리플렛 손실을 적용한 모델, (5) A‑softmax 손실(m=2,3,4) 적용 모델. 백엔드 스코어링은 코사인 거리와 PLDA(길이 정규화 포함) 두 가지를 사용했다. 첫 번째 실험에서는 enroll 발화 길이를 3,000프레임(≈30 초)로 고정하고, test 발화 길이를 300, 500, 1,000, 1,500프레임으로 변동시켰다. 결과는 트리플렛 손실이 모든 조건에서 가장 높은 EER을 보였으며, softmax 대비 A‑softmax가 30~60% 정도 EER을 감소시켰다. 특히 짧은 test(300~500프레임)에서는 i‑vector와 x‑vector보다 A‑softmax가 현저히 우수했으며, test가 1,500프레임으로 길어지면 i‑vector가 다시 우위를 점했다. 이는 i‑vector가 긴 발화에서 통계적 정보를 충분히 활용하기 때문이다. 두 번째 실험에서는 enroll와 test 길이를 동일하게 300, 500, 1,000, 1,500프레임으로 설정했다. 여기서는 A‑softmax에 PLDA 백엔드를 결합했을 때 짧은 발화(300프레임)에서 EER이 추가로 8~25% 감소하는 효과가 관찰되었다. 반면 긴 발화(1,500프레임)에서는 PLDA가 오히려 성능을 저하시킬 수 있었는데, 이는 학습 시 200프레임 청크 단위로 모델을 학습했기 때문에 PLDA가 짧은 청크에 최적화된 특성을 갖게 된 결과로 해석된다. 전반적으로 A‑softmax는 마진 파라미터 m을 통해 클래스 간 각도 구분을 조절할 수 있어, 짧은 발화 환경에서 특히 강력한 discriminative embedding을 제공한다. 다만 m 값을 과도하게 크게 설정하면 학습이 불안정해질 수 있어, 실험에서는 m=2~4 범위 내에서 최적점을 탐색하였다. 또한 PLDA와의 결합은 백엔드 스코어링 단계에서 추가적인 이득을 제공하지만, 학습 청크 길이와 일치하지 않을 경우 오히려 성능 저하가 발생할 수 있음을 확인하였다. 이러한 결과는 엔드‑투‑end 스피커 검증 시스템 설계 시, 프론트엔드 손실 함수와 백엔드 스코어링 방법을 발화 길이 특성에 맞게 조합하는 것이 중요함을 시사한다. 결론적으로, 본 논문은 A‑softmax 손실이 기존 softmax 및 트리플렛 손실보다 더 효과적인 임베딩 학습을 가능하게 함을 실험적으로 입증했으며, 특히 짧은 발화 조건에서 PLDA와 결합했을 때 최상의 성능을 달성한다는 점을 강조한다. 향후 연구에서는 다양한 마진 함수(예: ArcFace, CosFace)와의 비교, 그리고 대규모 다국어 데이터셋에서의 일반화 성능을 탐색하는 것이 기대된다.