대규모 잡음 관측의 손실 압축 집계에서 보이는 보편적 스케일링과 임계 현상

본 논문은 대규모 센서 네트워크에서 독립적인 잡음 관측을 어떻게 효율적으로 집계할 것인가에 대한 근본적인 물리·정보 이론적 분석을 제공한다. 서론에서는 천문 관측, 생물학적 센싱, 자연재해 조기 경보, 무선 센서 네트워크 등 다양한 분야에서 관측 수를 늘리는 것이 오류 감소에 기여하지만, 동시에 통신·저장·전력 등 자원 소모가 급증한다는 전형적인 트레이드오프를 제시한다. 기존 연구는 무한히 많은 센서 혹은 고정된 센서 수에 대한 정보 이론적 경계만을 다루었으며, 센서 수 자체를 가변 변수로 두는 경우는 거의 다루어지지 않았다. 이에 저자는 CEO 문제의 이산형 변형을 채택해, L개의 센서가 각각 M비트 이진 소스를 관측하고, 각 비트가 동일한 오류 확률 p를 가진다는 가정 하에 모델을 구축한다. 각 센서는 관측 데이터를 N비트(압축률 R=N/M)로 압축해 전송하고, 전체 시스템 용량 λ=LR가 고정된 제약을 둔다. 압축 후 복원된 비트 ˆY(a)는 독립적으로 복원되며, 최종 추정 ˆX는 각 비트별 다수결(Majority Vote)로 결정된다. 핵심 분석은 압축에 의해 발생하는 왜곡 D(R)와 관측 잡음 p가 결합해 각 비트의 총 오류 확률 ρ=(1−2p)·D(R)+p 를 만든다는 점이다. D(R)는 Shannon의 왜곡‑률 함수에 의해 감소하며, R이 커질수록 ρ는 감소한다. 그러나 센서 수 L이 증가하면 ρ가 증가하는 효과와 다수결에 의한 오류 감소 효과가 상충한다. 이를 정량화하기 위해 대용량(λ→∞) 한계에서 이항분포를 정규근사하고, 오류 확률 p_e(p,R;λ)≈½ erfc(ν√2) 형태를 도출한다. 여기서 ν는 α(p,R)·√