과학자를 알자 KYC 바이오보안 인프라

초록

생물학 AI 도구의 급속한 발전이 초래하는 이중용도 위험을 기존 모델‑레벨 제한만으로는 통제하기 어렵다. 저자들은 금융 AML의 KYC 방식을 차용해 연구기관을 신뢰 앵커로 삼는 3단계 KYC 프레임워크를 제안한다. 1단계는 기관이 연구자를 검증·보증, 2단계는 실시간 서열 동형검색·기능 주석을 통한 출력 스크리닝, 3단계는 장기 행동 패턴 모니터링으로 이상 징후를 탐지한다. 이 구조는 합법적 연구는 유지하면서 남용 비용을 높이고, 기존 기관 인프라만으로 즉시 구현 가능하도록 설계되었다.

상세 분석

이 논문은 현재 생물학 AI에 적용되는 키워드 필터링, 출력 차단, 콘텐츠 기반 접근 제한이 근본적인 한계를 가지고 있음을 명확히 지적한다. 생물학적 기능 예측은 아직 불완전하고, 설계된 병원체는 기존 동형검색으로는 탐지되지 않을 가능성이 크다. 따라서 위험을 ‘출력’이 아니라 ‘사용자’에 초점을 맞추는 전환이 필요하다는 논리는 설득력이 있다.

제안된 3‑tier KYC 프레임워크는 AML에서 차용한 신원 검증·거래 모니터링 모델을 그대로 적용한다. Tier I은 연구기관을 ‘신뢰 앵커’로 설정해, 기관이 연구자의 신원·연구 목적을 검증하고, 기관 자체가 책임을 진다. 이는 이미 존재하는 IRB, IBC, 윤리 위원회 등과 연계할 수 있어 행정적 부담이 최소화된다. 또한, 정부의 제재 리스트와 연계해 명백히 금지된 인물·기관을 차단함으로써 ‘밝은 선’과 ‘어두운 선’ 구분을 명확히 한다.

Tier II는 실시간 출력 스크리닝을 수행한다. BLAST 기반 동형검색, 기능 온톨로지 매핑, 향후 단백질 기능 예측·독성 평가 모델을 파이프라인에 삽입한다. 여기서 중요한 점은 자동 차단이 아니라 ‘신호 생성’에 초점을 맞추어 인간 검토자가 최종 판단을 내리게 함으로써 오탐률을 낮춘다. 또한, 워터마크와 출력 강화 기술을 결합해 합성 단계에서 추적 가능성을 확보한다는 점은 미래 대비책으로 의미가 크다.

Tier III는 장기 행동 패턴을 분석한다. 반복적인 위험 신호 누적, 선언된 연구 목적과의 불일치, 비정상적인 접근 빈도 등을 정량화해 임계치를 초과하면 검토를 촉발한다. 이 단계는 단일 출력이 아닌 사용자의 전체 행태를 평가함으로써 은밀한 남용을 포착한다. AML에서 거래 흐름을 추적하는 방식과 유사하지만, 생물학 AI에서는 실험 설계와 합성 단계까지 연계될 수 있다는 점이 차별화된다.

프레임워크 전반에 걸쳐 ‘공유 책임’ 원칙을 강조한다. 기관은 연구자 검증과 의도 평가를, 호스팅 서비스는 기술적 모니터링과 접근 제어를 담당한다. 이는 어느 한쪽에 과도한 부담이 집중되지 않도록 설계된 점이 실용적이다. 또한, 위험 수준에 따라 기관 신뢰 기준을 가변적으로 적용함으로써 저위험 모델은 접근 장벽을 낮추고, 고위험 모델은 엄격히 제한한다는 위험 기반 접근법을 제시한다.

마지막으로, 기존 규제나 새로운 법 제정 없이도 현재의 대학·연구소 IT 인프라(인증 시스템, 로그 관리, 네트워크 모니터링)를 활용해 즉시 구현 가능하다는 주장도 현실적이다. 다만, 기관 간 신뢰 관계 구축, 표준화된 검증 절차 정의, 그리고 오탐 시 인간 검토 프로세스의 효율성 확보가 성공 열쇠가 될 것이다.