스택 필터 출력 분포와 선택 확률 계산 방법

초록

본 논문은 스택 필터를 정의하는 양의 부울 함수의 전위 논리식(DNF)으로부터 출력 분포와 선택 확률을 효율적으로 계산하는 알고리즘을 제시한다. 제안된 방법은 기존의 조합적 접근보다 계산량을 크게 줄이며, 필터 설계와 성능 분석에 직접 활용할 수 있다.

상세 분석

스택 필터는 입력 신호의 순서 보존과 비선형 연산을 결합한 구조로, 신호 처리 및 이미지 복원 등 다양한 분야에서 활용된다. 이 필터의 동작은 양의 부울 함수 b(x₁,…,xₙ) 에 의해 결정되며, 입력 벡터 x 가 함수 b 에 의해 ‘통과’되면 해당 위치의 출력이 1, 그렇지 않으면 0이 된다. 기존 연구에서는 이러한 부울 함수를 최소항 형태(즉, DNF)로 전개한 뒤, 모든 가능한 입력 조합을 열거해 출력 확률을 추정했는데, 입력 차원이 커질수록 조합 폭발 문제가 발생한다.

본 논문은 DNF의 구조적 특성을 이용해 조합을 압축하는 ‘멀티레벨 압축 비트벡터’(MLCB) 기법을 도입한다. 각 항은 변수들의 AND 연산으로 구성되며, 항들 사이의 OR 연산은 독립적인 사건으로 간주한다. 저자는 각 항에 대해 해당 변수들이 1이 될 확률을 곱한 뒤, 전체 DNF에 대해 Inclusion‑Exclusion 원리를 적용해 중복을 제거한다. 이 과정에서 항들의 공통 변수 집합을 미리 파악해 부분합을 재사용함으로써 연산 복잡도를 O(m·2^k)에서 O(m·k) 수준으로 낮춘다(여기서 m 은 항의 개수, k 는 각 항에 포함된 변수 수).

또한 선택 확률(p_i)은 특정 입력 위치 i 가 출력에 기여할 확률을 의미한다. 저자는 DNF의 각 항에 대해 변수 i 가 포함되는 경우와 포함되지 않는 경우를 구분해, 해당 항의 기여도를 가중 평균함으로써 p_i를 동시에 계산한다. 이때 변수 간 독립성을 가정하지만, 실제 신호에서는 상관관계가 존재할 수 있기에, 저자는 마코프 체인 기반의 근사 모델을 제시해 상관 효과를 보정한다.

알고리즘의 정확성은 수학적 귀납법과 확률론적 증명을 통해 보장되며, 구현 시 비트 연산을 활용한 SIMD 최적화가 가능함을 강조한다. 실험 결과는 기존의 전통적인 열거법 대비 10배 이상 빠른 실행 시간을 보이며, 출력 분포와 선택 확률 모두 오차 범위 내에서 일치함을 확인한다. 특히, 차원 n = 30 인 경우에도 메모리 사용량이 수십 메가바이트 수준에 머물러 실용적인 적용이 가능함을 입증한다.

이러한 기여는 스택 필터 설계 단계에서 목표 출력 분포를 사전에 예측하고, 선택 확률을 이용해 필터의 민감도와 잡음 억제 특성을 정량화하는 데 큰 도움이 된다. 또한, DNF 기반 접근법은 다른 형태의 비선형 필터(예: 멀티스레드 필터, 순위 기반 필터)에도 확장 가능하다는 점에서 연구 범위가 넓다.