교차 모델 신경 상관을 통한 AI 성능·일반화 예측 프레임워크

초록

본 논문은 두 신경망 사이의 뉴런‑레벨 상관관계를 정량화하는 간단한 메트릭을 제안한다. 각 뉴런의 활성화 벡터를 프로브 데이터로 수집하고, 절대 피어슨 상관계수로 가장 유사한 뉴런을 매칭한다. 매칭 거리에는 레이어 깊이 차이에 대한 패널티를 적용해 대칭적인 스칼라 점수를 얻으며, 부분‑레이어 샘플링을 통해 대규모 모델에서도 계산 가능하도록 설계하였다. 실험은 MNIST 기반 MLP·CNN, ImageNet‑pretrained ResNet·DenseNet·EfficientNet에 수행했으며, 높은 상관점수가 높은 정확도·내성 및 아키텍처 유사성과 일치함을 보였다. 제안 방법은 훈련 데이터 없이 외부 검증이 가능하다는 점에서 AI 신뢰성 평가에 유용한 경량 도구로 기대된다.

상세 분석

논문은 “신경 상관(Cross‑model Neuronal Correlation)”이라는 새로운 메트릭을 정의함으로써, 모델 간 표현적 정렬을 정량적으로 측정하고자 한다. 핵심 아이디어는 두 모델 F와 G가 동일한 프로브 데이터셋 D에 대해 각각 생성하는 뉴런 활성화 벡터 α_u, α_v를 이용해, 각 뉴런 u∈F에 대해 |ρ(α_u,α_v)|가 최대가 되는 뉴런 v를 찾는 ‘베스트 매치’를 구하는 것이다. 여기서 ρ는 피어슨 상관계수이며 절대값을 취해 부호 차이를 무시한다. 매칭 품질을 레이어 깊이 차이와 연계하기 위해 1+|layer(u)−layer(v)| 로 나누는 패널티를 도입했으며, 이는 초기 레이어와 최종 레이어 사이의 매칭이 과도히 점수를 올리는 것을 방지한다. 대칭성을 확보하기 위해 양방향 평균을 취해 최종 점수 Corr(F,G)∈