베이지안 네트워크 부트스트랩: 신뢰도 기반 구조 학습과 잠재 변수 탐지

** 베이지안 네트워크(BN)는 변수들 간의 인과 관계와 조건부 독립성을 그래프 형태로 모델링하는 강력한 도구이며, 의료, 유전학, 사회 과학 등 다양한 분야에서 활용되고 있다. 전통적인 BN 구조 학습은 데이터에 대한 점수(예: BIC, AIC, MDL)를 최대화하거나 최소화하는 DAG를 탐색하는 방식으로 진행된다. 이러한 점수 기반 방법은 충분한 데이터가 있을 때는 좋은 성능을 보이지만, 실제 현장에서는 샘플 수가 제한적이거나 노이즈가 많아 점수만으로는 학습된 구조의 신뢰성을 평가하기 어렵다. 특히 “두 변수 사이에 실제로 엣지가 존재하는가?”, “특정 노드의 마코프 블랭킷이 얼마나 견고한가?”, “변수 순서는 어떻게 정해지는가?”와 같은 질문은 점수만으로는 답변하기 힘들다. 본 논문은 이러한 문제점을 해결하기 위해 Efron의 부트스트랩 방법을 BN 구조 학습에 적용한다. 부트스트랩은 원본 데이터셋에서 복원 추출을 통해 다수의 샘플(부트스트랩 샘플)을 생성하고, 각 샘플에 대해 동일한 구조 학습 알고리즘을 적용한다. 이렇게 얻어진 다수의 DAG에서 특정 엣지, 마코프 블랭킷, 변수 순서가 등장한 비율을 각각 “엣지 신뢰도”, “블랭킷 신뢰도”, “순서 신뢰도”로 정의한다. 이 확률적 신뢰도는 다음과 같은 핵심 기여를 제공한다. 1. **신뢰도 기반 엣지 평가** - 부트스트랩 반복 횟수 \(B\)가 충분히 크면, 각 엣지가 나타나는 비율은 해당 엣지의 실제 존재 가능성을 추정한다. 높은 신뢰도(예: 0.8 이상)는 데이터 변동성에도 불구하고 해당 엣지가 강하게 존재한다는 증거가 된다. 반대로 낮은 신뢰도는 점수는 높아도 불안정한 엣지임을 의미한다. 2. **마코프 블랭킷 및 변수 순서의 안정성** - 특정 노드의 마코프 블랭킷(부모와 자식 집합)이 여러 부트스트랩 샘플에서 일관되게 나타나는 경우, 해당 블랭킷이 실제 구조에 견고함을 의미한다. - 변수 순서(위상 정렬)는 인과 관계를 추론하는 데 중요한데, 부트스트랩을 통해 순서가 얼마나 일관되는지 확인함으로써 인과 방향에 대한 신뢰도를 부여한다. 3. **잠재 변수 탐지 메커니즘** - 두 변수 사이에 높은 상관관계가 존재하지만, 부트스트랩 결과에서 어느 한쪽에서도 직접적인 엣지가 형성되지 않을 경우, 이는 관측되지 않은 잠재 변수가 존재할 가능성을 시사한다. 논문은 이러한 패턴을 “잠재 변수 지표”로 정의하고, 지표가 일정 임계값을 초과하면 잠재 변수를 모델에 추가하도록 권장한다. 4. **점수와 신뢰도의 결합** - 기존 점수 기반 구조 선택에 신뢰도 임계값을 결합함으로써, 점수가 약간 낮더라도 신뢰도가 높은 엣지를 보존하고, 점수가 높지만 신뢰도가 낮은 엣지는 제거한다. 이를 통해 과적합을 방지하고 보다 일반화된 네트워크를 얻는다. 5. **계산 효율성 및 병렬화** - 부트스트랩은 각 반복이 독립적이므로 멀티코어 혹은 클러스터 환경에서 쉽게 병렬화할 수 있다. 논문에서는 \(B=100\)~\(200\) 정도가 실험적으로 좋은 정확도와 실행 시간 사이의 균형을 제공한다는 결과를 제시한다. 6. **시각화 도구 제공** - 신뢰도 히트맵, 엣지 히스토그램, 블랭킷 신뢰도 그래프 등 시각화 도구를 구현하여 사용자가 네트워크의 불확실성을 직관적으로 파악할 수 있게 한다. **실험 설계 및 결과** - **합성 데이터**: 사전에 정의된 DAG를 기반으로 다양한 샘플 크기(전체 1000개, 500개, 200개, 100개)와 노이즈 수준을 설정하였다. 부트스트랩 기반 방법은 전체 샘플이 30% 이하로 감소했을 때에도 엣지 재현율과 정밀도가 기존 점수 기반 방법보다 평균 15% 이상 향상되었다. 특히 신뢰도 임계값 0.7을 적용했을 때, 불필요한 엣지를 효과적으로 제거하면서 핵심 구조를 유지하였다. - **실제 데이터 (유전학)**: 유전자 발현 데이터(샘플 150개, 변수 50개)를 사용하였다. 기존 방법으로는 120개의 엣지가 도출되었으나, 신뢰도 필터링 후 68개의 엣지만 남았고, 이 중 45개는 도메인 전문가가 확인한 알려진 유전자 간 인과 관계와 일치하였다. - **실제 데이터 (의료 진단)**: 환자 증상·검사 결과(샘플 200개, 변수 30개)에서 부트스트랩 신뢰도는 진단에 핵심적인 증상-검사 관계를 강조했으며, 잠재 변수 탐지 결과는 기존 모델에 포함되지 않았던 ‘생활 습관’ 요인이 숨겨진 요인으로 제시되었다. **한계 및 향후 연구** - 부트스트랩 반복 횟수가 증가하면 계산 비용이 선형적으로 증가하므로, 효율적인 샘플링 전략(예: 베이지안 부트스트랩, 중요도 샘플링) 도입이 필요하다. - 현재는 동일한 구조 학습 알고리즘을 모든 부트스트랩 샘플에 적용했지만, 알고리즘 다양성을 도입해 모델 앙상블 효과를 탐색할 여지가 있다. - 잠재 변수 탐지 메커니즘은 현재 단순히 엣지 부재 패턴을 이용하므로, 보다 정교한 잠재 변수 모델(예: 혼합 베이지안 네트워크)과 결합하는 연구가 진행될 수 있다. **결론** 본 논문은 베이지안 네트워크 구조 학습에 부트스트랩을 도입함으로써 점수 기반 최적화와 신뢰도 기반 검증을 동시에 고려하는 새로운 프레임워크를 제시한다. 부트스트랩을 통한 확률적 신뢰도는 데이터가 부족하거나 노이즈가 많은 상황에서도 구조의 안정성을 평가할 수 있게 하며, 잠재 변수 탐지를 가능하게 함으로써 모델의 해석 가능성과 예측 성능을 동시에 향상시킨다. 제안된 방법은 병렬 처리에 적합하고, 다양한 도메인에 적용 가능하므로 향후 베이지안 네트워크 기반 의사결정 지원 시스템에 신뢰도 기반 검증 절차를 표준화하는 데 중요한 기여를 할 것으로 기대된다. **