정보이론 기반 은폐채널 탐지와 용량 분석

초록

본 논문은 전통적인 ‘interference’ 개념이 은폐채널을 정확히 포착하지 못한다는 점을 지적하고, 제어 흐름을 이용한 은폐채널의 용량을 정보이론적으로 정의·계산하는 새로운 탐지 프레임워크를 제시한다.

상세 분석

논문은 먼저 보안 시스템에서 정보 흐름을 제한하는 정책을 설명하고, 은폐채널을 “두 합법 사용자가 시스템 기능을 협력적으로 이용해 정책을 우회하는 경우”로 정의한다. 기존 연구에서 널리 사용되는 ‘interference’(간섭) 개념은 한 사용자가 다른 사용자의 관찰만으로 비밀 정보를 추출할 수 있는지를 판단한다. 저자들은 이 정의가 은폐채널과는 근본적으로 다르다고 주장한다. 첫째, 간섭은 협력이 필요 없으며 단일 전이 한 번으로도 발생할 수 있다(예: Figure 1 S₁, S₂). 반면 은폐채널은 임의 크기의 메시지를 전송하기 위해 다수의 전이를 반복적으로 이용해야 한다. 둘째, 간섭은 “작은 메시지 기준(small‑message criterion)”을 만족하지 않아도 성립하지만, 은폐채널은 실제로 임의 길이의 비밀 메시지를 전달할 수 있어야 한다.

이러한 차이를 메우기 위해 저자들은 “iterated multivalued interference”와 같은 확장 개념을 검토하지만, 용량이 1비트 미만인 채널까지 포착하지 못함을 보인다. 결국, 은폐채널을 “메모리리스 이산 채널(memoryless discrete channel) 형태로 시뮬레이션할 수 있는가”라는 관점으로 전환한다. 구체적으로, 두 사용자 u, v가 시스템 S를 이용해 입력‑출력 확률 분포 (P_{Y|X})를 구현하고, 그 채널 용량 (C = \max_{P_X} I(X;Y))가 0보다 크면 은폐채널이 존재한다고 정의한다.

이를 형식화하기 위해 전이 시스템(Transition System) 모델을 도입한다. 시스템은 유한 상태 집합 Q, 알파벳 Σ, 전이 관계 (\rightarrow) 및 초기 상태 (q_0) 로 정의되며, 각 전이는 확률 (P_S(q,a,q’))을 갖는다. 사용자별 관찰과 실행을 각각 Obs와 Ex 함수로 매핑하고, 프로젝션 (\Pi_u(S))와 제한 (S\backslash u)를 통해 간섭을 정의한다(SNNI).

그 후, 은폐채널 존재 여부를 판단하기 위한 알고리즘적 절차를 제시한다. 핵심 단계는

1. u와 v가 각각 입력·출력 역할을 할 수 있는 행동 집합을 식별,
2. 해당 행동들의 전이 확률을 이용해 조건부 확률 행렬 (P_{Y|X})를 구성,
3. 블로흐‑아르키버그 최적화를 통해 용량 (C)를 계산,
4. (C>0)이면 은폐채널 존재, 그렇지 않으면 부재로 결론짓는다.

논문은 또한 제어 흐름 기반 은폐채널(예: 특정 조건문이나 루프의 실행 여부가 비밀 비트를 전달)에 대해 구체적인 사례를 제시하고, 해당 사례의 용량을 0.5 bit/사용으로 계산한다. 이는 “한 번의 전이당 1 bit 미만”이라는 기존 간섭 기반 판단이 놓치는 실제 위험을 보여준다. 마지막으로, 시간 기반 채널은 다루지 않지만, 시간 지연을 입력·출력으로 모델링하면 동일한 정보이론적 분석이 적용될 수 있음을 언급한다.

전체적으로 이 논문은 보안 분석에서 “간섭”을 넘어서 “채널 용량”이라는 정량적 지표를 도입함으로써, 은폐채널을 보다 정확히 탐지하고 그 위험성을 정량화할 수 있는 이론적·실용적 기반을 제공한다.