반정규 이진 행렬 연구

초록

본 논문은 이진 행렬에 대한 반정규와 정규 개념을 정의하고, 이들의 수학적 타당성을 증명한다. 또한 1의 개수를 고려한 모든 반정규 이진 행렬을 효율적으로 열거하는 알고리즘을 제시하며, 비트 연산을 활용해 성능을 최적화한다. 이 문제는 서로소 S-퍼뮤테이션 행렬 쌍을 찾는 조합론적 문제와 연관된다.

상세 분석

논문은 먼저 이진 행렬을 행과 열의 순열에 따라 정규화하는 전통적인 방법을 검토하고, 그 한계점을 지적한다. 기존의 정규화는 행·열 순열을 완전히 고정시키는 것이지만, 실제 응용에서는 행·열의 순서를 부분적으로만 정렬해도 충분한 경우가 많다. 이를 바탕으로 저자들은 “반정규(semi‑canonical)”라는 새로운 개념을 도입한다. 반정규 행렬은 각 행이 사전식으로 정렬되고, 동시에 각 열도 사전식으로 정렬되는 조건을 만족한다. 즉, 행과 열 모두가 비내림차순으로 정렬되지만, 전체 행·열 순열을 완전히 고정하지는 않는다. 이러한 정의는 정규 행렬보다 더 넓은 클래스의 행렬을 포함하면서도, 중복을 최소화하는 특성을 유지한다.

수학적 증명 부분에서는 반정규 행렬이 존재함을 보이는 존재론적 논증과, 주어진 1의 개수 k에 대해 반정규 행렬이 유일하게 결정되는 경우와 다중해를 갖는 경우를 구분한다. 특히, 행·열의 사전식 정렬이 유지되는 동안 행·열 순열을 교환해도 행렬 자체가 변하지 않는 동치 관계를 정의하고, 이를 이용해 반정규 행렬의 대표성을 보장한다. 저자는 또한 정규 행렬과 반정규 행렬 사이의 포함 관계를 정리하고, 반정규 행렬이 정규 행렬의 대표 집합을 형성한다는 사실을 정리한다.

알고리즘 설계에서는 1의 개수 k를 입력으로 받아, 모든 가능한 행 벡터(길이 n인 0‑1 문자열)를 사전식 순서대로 생성하고, 비트 마스크를 이용해 열 조건을 실시간으로 검증한다. 핵심 아이디어는 각 행을 추가할 때 현재까지의 열 합계가 k를 초과하지 않도록 하는 것이며, 이는 비트 연산으로 O(1) 시간에 확인 가능하다. 또한, 백트래킹 과정에서 불가능한 부분해를 조기에 차단함으로써 탐색 공간을 크게 감소시킨다. 구현은 C++ 기반이며, 64비트 정수형을 활용해 최대 64열까지 처리할 수 있다. 실험 결과는 n≤8, k≤n·n 범위에서 기존 전수 탐색 방식보다 평균 10배 이상의 속도 향상을 보였으며, 메모리 사용량도 크게 절감되었다.

마지막으로, 반정규 이진 행렬 열거 문제를 S‑퍼뮤테이션 행렬(각 행·열에 정확히 하나의 1이 있는 행렬)의 쌍을 찾는 문제와 연결한다. 두 S‑퍼뮤테이션 행렬이 서로소(disjoint)일 때, 그들의 합은 0‑1 행렬이며, 이 합 행렬이 반정규 형태를 만족하면 중복 없이 모든 가능한 쌍을 구할 수 있다. 따라서 제안된 알고리즘은 조합론적 설계, 암호학적 구조, 그리고 실험 설계 등 다양한 분야에서 활용 가능성이 크다.