일반 경우 복잡도와 일방 함수

초록

본 논문은 일반 경우 복잡도(generic case complexity)의 개념을 암호학에 도입하여, “대부분의 입력”에 대해 효율적으로 동작하는 알고리즘을 직관적으로 분석하는 방법을 제시한다. 이를 바탕으로 일반 경우 복잡도를 이용한 일방 함수 정의를 제시하고, 기존의 전통적 정의와 동등함을 증명한다. 또한, 오류를 허용하는 부분 알고리즘으로 확장한 공격자 모델이 기존 보안 가정의 강도에 영향을 주지 않음을 간단히 증명한다.

상세 분석

논문은 먼저 일반 경우 복잡도라는 비교적 새로운 이론적 틀을 소개한다. 입력 집합 I={0,1}*에 대해 구형(stratification)과 구형 위의 균등 분포 {u_n}을 정의하고, 집합의 점근적 밀도와 강하게 일반(generic)·강하게 무시(negligible) 집합을 구분한다. 특히 “초다항 수렴(super‑polynomial convergence)”을 요구함으로써, 일반 경우에 거의 모든 입력이 차지하는 비율이 1에 매우 빠르게 수렴함을 보장한다. 이러한 정의는 전통적인 평균‑케이스 복잡도와 달리 개별 입력에 대한 알고리즘의 성공 확률을 직접 다룰 수 있게 해준다.

다음으로 일방 함수의 전통적 정의(다이페와 헬만)를 재검토한다. 여기서는 “거의 모든” 출력에 대해 역함수 찾기가 계산적으로 불가능함을 확률적 폴리노미얼 시간(PPT) 공격자에 대해 정의한다. 기존 정의는 전체 입력에 대한 평균 성공 확률을 사용하므로, 특정 입력 집합이 매우 작아도 전체 확률을 크게 낮출 수 있다. 이를 보완하기 위해 저자는 “일반적으로 강한(generically strong)” 일방 함수를 정의한다. 정의 2.1에서는 모든 PPT 공격자 A와 모든 상수 c>0에 대해, 입력 길이 n에 대한 구형 I_n에서 A가 성공할 확률이 n^{-c}를 초과하는 입력들의 비율이 초다항적으로 작아야 함을 요구한다. 즉, 공격자가 성공할 수 있는 입력 집합이 강하게 무시 가능한 집합이어야 한다는 의미다.

정의 2.2는 “일반적으로 약한(generically weak)” 일방 함수를 제시한다. 여기서는 어떤 PPT 공격자라도 충분히 큰 다항식 p(n) 존재하여, 성공 확률이 n^{-c} 이하인 입력들의 비율이 1/p(n) 이상임을 보장한다. 이는 “대부분의 입력에 대해 역연산이 어려운” 성질을 약하게 요구한다.

핵심 기술은 Lemma 2.3과 그 증명이다. 저자는 특정 입력 집합에서 공격자가 n^{-c} 이상의 성공 확률을 보이는 경우, 이를 반복 실행과 Chernoff 경계 등을 이용해 전체 구형에서 평균 성공 확률이 n^{-d} 수준으로 상승시킬 수 있음을 보인다. 따라서 일반 경우 정의와 기존 평균 정의가 서로 동등함을 증명한다. 이 과정에서 부분 알고리즘이 오류를 내는 경우에도, 오류가 발생하는 입력이 강하게 무시 가능한 집합에 속한다면 전체 보안 가정에 영향을 주지 않음을 보여준다.

논문은 또한 일반 경우 복잡도가 NP‑complete 문제, Halting 문제 등 전통적으로 어려운 문제에 대해 “일반적으로는 쉬운” 현상을 설명하고, 이러한 현상이 암호학적 가정에 어떻게 활용될 수 있는지를 논의한다. 특히, 그룹 이론에서의 단어 문제와 공액 문제는 일반 경우에 선형 시간으로 해결 가능하지만, 전체적으로는 결정 불가능함을 예시로 든다. 이러한 사례는 “대부분의 입력에 대해 효율적인 알고리즘이 존재하지만, 악의적인 입력에 대해서는 여전히 어려움”이라는 일반 경우 복잡도의 핵심 아이디어를 암시한다.

마지막으로 저자는 향후 연구 방향으로, 일반 경우 복잡도를 이용해 새로운 일방 함수 후보를 구성하고, 이를 기존 암호 원시체와 연결하는 작업을 제시한다. 특히, 결정 불가능한 문제에서 파생된 일반 경우 일방 함수를 설계하면, 기존 보안 가정보다 더 강력한 보안성을 제공할 가능성을 시사한다.