스펙트럼 평탄 부울 함수 진화를 위한 네가벤트 연구

초록

**
본 논문은 네가헐드 변환에서 스펙트럼이 평탄한 네가벤트(Boolean) 함수를 진화 알고리즘, 특히 유전 프로그래밍(GP)을 이용해 자동으로 설계하는 방법을 제시한다. 짝수 차원에서는 bent‑negabent 함수를, 홀수 차원에서는 비선형도가 최대에 가까운 negabent 함수를 목표로 하며, 비트스트링과 트리 기반 두 가지 인코딩을 비교한다. 실험 결과, 트리 기반 GP가 모든 차원(6~16 변수)에서 최적에 근접한 함수를 성공적으로 찾았으며, 비트스트링 인코딩은 제한된 차원에서만 성공하였다.

**

상세 분석

**
이 연구는 부울 함수 설계에서 가장 어려운 문제 중 하나인 스펙트럼 평탄성을 동시에 만족하는 함수를 자동으로 탐색한다는 점에서 의미가 크다. 네가벤트 함수는 네가‑헐드 변환(Nega‑Hadamard Transform)에서 모든 주파수 성분의 절댓값이 동일한 특성을 가지며, 이는 양자 정보 이론에서의 로컬 유니터리 변환과도 연결된다. 특히 짝수 차원에서는 bent‑negabent 함수가 존재하는데, 이는 전통적인 Walsh‑Hadamard 변환과 네가‑헐드 변환 두 가지 모두에서 최적의 비선형도(비선형성)를 달성한다는 뜻이다. 논문은 이러한 함수를 찾기 위해 두 가지 인코딩 방식을 도입한다. 첫 번째는 진리표를 그대로 비트스트링으로 표현하는 방식으로, 구현이 간단하지만 차원이 커질수록 탐색 공간(2^2^n)이 급격히 확대되어 연산 비용이 크게 증가한다. 두 번째는 트리 기반 유전 프로그래밍(GP)으로, 논리 연산자(AND, OR, XOR, NOT, IF)를 노드로 사용해 함수를 구조적으로 표현한다. 이 방식은 표현의 압축성과 재사용성을 제공해 큰 차원에서도 효율적인 탐색이 가능하다.

적합도 함수 설계에서도 중요한 통찰을 제공한다. 짝수 차원에서는 원 함수와 σ₂(모든 변수 쌍의 곱을 합한 함수)와의 비선형도를 각각 계산하고, Walsh‑Hadamard 스펙트럼에서 최대 절댓값이 나타나는 횟수를 보조 지표로 활용한다. 이는 단순히 비선형도만을 최적화하는 것이 아니라, 스펙트럼이 평탄해지는 방향으로 점진적인 “그라디언트”를 제공한다. 홀수 차원에서는 σ₁(전체 변수의 합)과 σ₂를 포함한 변환 함수를 n+1 변수 함수로 확장해 bent 조건을 적용함으로써, 원 함수가 negabent이면서도 높은 비선형도를 갖도록 유도한다.

실험 설정은 인구 500명, 10⁶ 평가 제한, 30회 독립 실행을 기본으로 하며, 변이와 교차 연산자를 무작위로 선택한다. 결과는 트리 기반 GP가 모든 차원에서 거의 매 실행마다 최적(또는 근접) 함수를 발견한 반면, 비트스트링 인코딩은 6·7 변수에서만 성공하고 그 외에서는 최적에 도달하지 못했다는 점에서 두 인코딩의 차이를 명확히 보여준다. 이는 복잡한 구조적 특성을 가진 함수를 탐색할 때, 표현력과 변이 연산의 다양성이 얼마나 중요한지를 실증한다. 또한, 기존 연구에서 bent 함수 진화가 비교적 쉬운 것으로 알려졌지만, negabent(특히 홀수 차원)에서는 비선형도와 스펙트럼 평탄성 사이의 상충 관계가 존재함에도 불구하고 GP가 이를 효과적으로 해결했다는 점은 중요한 기여이다.

마지막으로 논문은 향후 연구 방향으로 네가‑헐드 변환 자체를 이용한 비선형도 평가, 균형성(balancedness) 및 대수 차수(algebraic degree)와 같은 추가 암호학적 속성의 동시 최적화를 제시한다. 이는 현재의 적합도 설계가 Walsh‑Hadamard 스펙트럼에 의존하고 있는 한계를 넘어, 보다 포괄적인 암호학적 요구조건을 만족하는 부울 함수 설계에 기여할 수 있다.

**