고비선형 항등불변 부울 함수 진화 연구

초록

본 논문은 다항식 기반 표현을 이용해 차원 5 ~ 12의 항등불변(Boolean idempotent) 함수들을 고비선형으로 설계하고자 진화 알고리즘을 실험한다. 일반적인 진리표 인코딩은 교차·돌연변이 연산이 항등성 제약을 파괴해 탐색이 정체되는 반면, Frobenius 궤도 기반의 제한 인코딩은 유전자를 궤도 수만큼만 필요로 하여 효율적인 탐색이 가능함을 보였다.

상세 분석

논문은 먼저 항등불변 부울 함수가 Frobenius 사상 x↦x²에 대해 불변임을 이용해 출력값이 같은 궤도(orbit)마다 하나의 비트만 정의하면 전체 진리표가 자동으로 완성된다는 수학적 사실을 강조한다. 이는 회전대칭 함수와 동등한 구조이지만, 다항식 기반에서는 사상이 단순 회전이 아니라 n×n 이진 행렬 Sₙ 으로 표현되므로 궤도 구조가 복잡해진다. 저자들은 이러한 복잡성을 실험적으로 검증하기 위해 세 가지 인코딩 방식을 비교한다. ① 전통적인 2ⁿ 길이의 무제한 진리표 인코딩은 교차·돌연변이 연산이 임의의 위치에서 비트들을 뒤섞어 항등성을 깨뜨리므로, 적합도 함수가 비록 비선형성을 최대화하도록 설계되었더라도 대부분 비항등 함수가 생성된다. ② 궤도 기반 인코딩은 각 궤도마다 하나의 비트를 유전자로 두고, 이를 Sₙ에 따라 확장해 전체 진리표를 만든다. 이 방식은 유전자의 길이가 궤도 수(예: n=12일 때 352)로 크게 감소해 탐색 공간을 실질적으로 축소한다. ③ 추가적인 제약(예: 균형성)과 비선형성 목표를 동시에 고려한 다중목표 적합도 함수를 적용했으며, 결과적으로 모든 실험 차원에서 비선형성이 이론적 상한에 근접하거나 이를 초과하는 함수를 성공적으로 발견했다. 특히, 비제한 인코딩이 0% 성공률을 보인 반면, 궤도 인코딩은 70 ~ 95% 수준의 성공률을 기록했다. 실험에서는 표준 1‑점 교차와 1/bit 변이율을 사용했으며, 교차 연산이 궤도 구조를 보존하도록 설계된 경우 탐색 효율이 더욱 향상됨을 확인했다. 또한, 저자들은 다항식 기반이 하드웨어 구현에 유리하고, 동일한 원시 다항식을 고정함으로써 결과 재현성을 확보한다는 실용적 장점을 강조한다. 전체적으로 논문은 “제약을 유전자의 구조에 내재화하면 진화 연산이 파괴적 효과를 일으키지 않는다”는 중요한 교훈을 제시하며, 고비선형 암호 설계에 있어 구조적 제한을 가진 함수군을 효율적으로 탐색할 수 있는 방법론을 제공한다.