인간 인지 비대칭을 반영한 대칭 가중 이진 교차 엔트로피 손실

초록

본 논문은 기존 가중 이진 교차 엔트로피(WBCE)의 한계를 극복하고, 인간이 가장자리(Edge)를 판단할 때 보이는 ‘증거 강도’ 비대칭을 모델링한 새로운 손실 함수인 Symmetrization Weighted Binary Cross‑Entropy(SWBCE)를 제안한다. 예측값을 이용한 대칭 가중을 도입해 엣지 픽셀은 높은 증거가 있을 때만 양성으로 판단하도록 유도함으로써 재현율은 유지하면서 거짓 양성(노이즈)을 크게 억제한다. 다양한 공개 데이터셋(BSDS500, BIPED, BRIND 등)과 최신 에지 검출 아키텍처(HED, BDCN, Dexi, HED‑EES 등)에서 실험한 결과, SWBCE는 기존 손실 대비 SSIM·F‑measure·Edge Ratio 등 정량 지표와 시각적 품질 모두에서 일관된 향상을 보이며, 특히 HED‑EES 모델에서 BRIND 데이터셋의 SSIM을 약 15 % 개선하였다.

상세 분석

SWBCE는 기존 WBCE가 클래스 불균형을 완화하기 위해 엣지 픽셀에만 가중치를 부여하는 방식에서 한 걸음 더 나아가, 인간이 엣지를 판단할 때 “엣지는 확실한 증거가 있을 때만 긍정한다”는 인지적 비대칭을 수식화한다. 구체적으로, 예측 확률 p를 이용해 가중치 w(p)=α·p+β·(1‑p) 형태의 동적 가중을 정의하고, 이를 기존 WBCE의 양성/음성 가중치와 곱해 손실을 대칭화한다. 이 과정에서 양성(엣지) 쪽은 높은 p값일 때만 큰 손실이 발생하도록, 음성(비엣지) 쪽은 낮은 p값일 때 큰 손실이 발생하도록 설계돼, 인간 annotator가 “확신이 없으면 비엣지로 간주”하는 행동을 모방한다.

핵심 기여는 다음과 같다. 첫째, 인간 인지 비대칭을 명시적으로 손실에 반영함으로써 재현율(recall)과 정밀도(precision) 사이의 트레이드오프를 보다 균형 있게 조정한다. 둘째, 예측‑가이드 가중을 도입해 학습 과정에서 “경계 근처”의 애매한 픽셀을 효과적으로 구분, 기존 WBCE가 초래하던 흐릿한 경계와 과다 검출을 억제한다. 셋째, Edge Ratio라는 연속형 평가 지표를 새롭게 정의해, 이진화 없이도 엣지 예측의 질을 정량화한다.

실험 결과는 설득력 있다. 다양한 데이터셋과 모델에 대해 SWBCE를 적용했을 때, SSIM이 평균 7~15 % 상승하고, F‑measure와 Edge Ratio에서도 유의미한 개선을 보였다. 특히 HED‑EES와 같은 복합 구조 모델에서 SWBCE는 기존 손실 대비 시각적으로 더 날카롭고 인간 눈에 부드럽게 보이는 엣지를 생성한다. 또한 메모리·연산 오버헤드가 거의 없으며, 기존 학습 파이프라인에 그대로 삽입 가능해 실용성이 높다.

한계점으로는 현재 손실 함수가 엣지 검출에 특화돼 있어, 텍스처 분류나 세그멘테이션 등 다른 픽셀‑레벨 과제에 바로 적용하기엔 추가적인 조정이 필요할 수 있다. 또한, 가중치 파라미터 α,β의 선택이 데이터셋에 따라 민감하게 작용할 가능성이 있어 자동 튜닝 메커니즘이 향후 연구 과제로 남는다.

전반적으로 SWBCE는 “인간‑기계 인지 일치”라는 새로운 설계 패러다임을 제시하며, 딥러닝 기반 엣지 검출 모델의 정량·정성 성능을 동시에 끌어올리는 실용적인 손실 함수로 평가된다.