3D 그래프 복합체 OOD 탐지 확산 모델 기반

초록

본 논문은 단백질‑리간드 복합체와 같이 연속 좌표와 이산 화학 정보를 동시에 갖는 3차원 불규칙 그래프에 특화된 무감독 OOD 탐지 프레임워크를 제시한다. 연속적인 좌표와 범주형 특성을 하나의 연속 공간에 통합한 확산 모델을 학습하고, 확산 과정의 확률 흐름 ODE(PF‑ODE)를 이용해 샘플별 로그우도와 18가지 궤적 통계량을 추출한다. 로그우도는 전형성 점수를 제공하지만 복잡도 편향으로 한계가 있어, 궤적의 비틀림, 흐름 강성, 벡터장 불안정성 등을 결합한 다중 스케일 검출기가 OOD 구분 능력을 크게 향상시킨다. 실험은 PDBbind 데이터셋에서 전체 단백질 패밀리를 제외한 엄격한 OOD 테스트셋을 구성해 수행했으며, PF‑ODE 기반 점수는 보류된 패밀리를 성공적으로 OOD로 식별하고, 독립적인 결합 친화도 예측 모델(GEMS)의 오류와도 높은 상관성을 보였다.

상세 분석

이 연구는 3차원 분자 복합체를 그래프 형태로 표현할 때 발생하는 두 가지 핵심 난제를 동시에 해결한다. 첫째, 좌표와 원자·잔기와 같은 이산 라벨을 하나의 연속 확산 과정에 포함시키는 방법이다. 저자들은 범주형 라벨을 구면 임베딩 공간에 매핑하고, 이를 좌표와 결합해 전체 상태 벡터를 구성한다. EGNN 기반 네트워크가 이 상태를 입력받아 노드별 좌표와 라벨 확률(logits)을 예측하고, 예측된 확률을 이용해 후방 평균(posterior‑mean) 보간을 수행함으로써 연속적인 확산 스코어를 얻는다. 이 설계는 교차 엔트로피 손실만으로도 연속적인 확산 역학을 학습할 수 있게 하여, 기존 이산‑연속 혼합 확산 모델이 겪는 비연속성 문제를 회피한다.

둘째, 확률 흐름 ODE(PF‑ODE)를 활용해 정확한 로그우도를 계산하고, 이를 OOD 탐지에 활용한다는 점이다. PF‑ODE는 확산 SDE의 평균 흐름을 결정론적으로 기술하므로, 각 샘플에 대해 시간‑0에서 시간‑T까지의 경로를 역추적한다. 로그우도는 경로상의 드리프트 다이버전스 적분으로 얻어지며, 이는 전형성(typicality) 점수로 바로 사용 가능하다. 그러나 기존 연구에서 지적된 바와 같이, 단순 로그우도는 복잡도 편향(complexity bias)으로 인해 단순한 OOD 샘플을 높은 확률로 오판한다. 이를 보완하기 위해 저자들은 18개의 궤적 수준 특성을 정의한다. 주요 특성으로는 경로 효율성(path efficiency), 토르투시티(tortuosity), 총 각도 편차(total angular deviation), 가속도 스무스니스(smoothness score), 벡터장 L2 평균·표준·최대(vf_l2_mean, vf_l2_std, vf_l2_max), 스파이키니스(vf_spikiness), 흐름 에너지(total_flow energy), Lipschitz 상수 평균·최대(mean_lipschitz, max_lipschitz), 중심 질량 이동(mean_com_drift, max_com_drift) 등이 있다. 이러한 특성은 PF‑ODE가 저밀도 영역을 통과할 때 나타나는 비정상적인 동역학을 정량화한다.

실험 설계는 매우 엄격하다. PDBbind 2020 버전 전체 19 443개의 복합체를 사용해 훈련‑검증‑테스트를 나누었으며, 테스트 세트는 전체 단백질 패밀리를 훈련에서 제외하는 7개의 강력한 OOD 셋, CASF2016 벤치마크(중간 수준 OOD), 그리고 일반 검증 셋(최소 변동)으로 구성했다. 각 테스트 셋에 대해 단백질 구조 유사도(TM‑score), 리간드 유사도, 결합 포즈 유사도를 종합해 생물정보학적 OOD 수준을 정량화하였다.

결과는 두 단계로 제시된다. 첫째, PF‑ODE 로그우도만을 사용했을 때는 대부분의 OOD 셋이 높은 우도값을 보였으며, 특히 낮은 복잡도의 상호작용을 가진 셋에서는 OOD임에도 불구하고 ID로 오인되는 현상이 관찰되었다. 둘째, 로그우도와 18개의 궤적 특성을 결합한 다중 스케일 검출기를 적용하면 ROC‑AUC가 크게 상승하고, 특히 복잡도 편향에 취약했던 저복잡도 셋에서도 정확히 OOD를 구분한다. 또한, 로그우도와 GEMS 예측 오류 사이의 상관계수는 0.68 이상으로, PF‑ODE 점수가 실제 예측 신뢰도와도 연계될 수 있음을 보여준다.

이 논문의 주요 기여는 다음과 같다. (1) 연속 좌표와 이산 라벨을 하나의 연속 확산 공간에 통합하는 새로운 확산 프레임워크, (2) PF‑ODE 기반 로그우도와 궤적 통계량을 결합한 OOD 탐지 기법, (3) 3D 분자 그래프라는 고차원·불규칙 데이터에 대한 최초의 무감독 OOD 검증, (4) 복잡도 편향을 극복하고 실제 결합 친화도 모델과 연계 가능한 신뢰도 추정 방법 제공. 향후 이 접근법은 단백질‑리간드 외에도 금속‑유기 프레임워크, 나노입자 어셈블리 등 3D 그래프 형태의 과학·공학 데이터 전반에 적용 가능할 것으로 기대된다.