산업과 학계의 적대적 머신러닝 인식 비교와 교육적 시사점

초록

본 논문은 산업 현장 전문가와 대학생을 대상으로 두 차례 사용자 연구를 수행한다. 첫 번째 연구는 사이버보안·머신러닝·프라이버시 분야 경력을 가진 12명의 전문가를 대상으로 온라인 설문을 진행해 AML(Adversarial Machine Learning) 위협에 대한 인식과 교육·정책 현황을 조사한다. 두 번째 연구는 자연어 처리와 생성형 AI를 활용한 두 개의 CTF(캡처‑더‑플래그) 과제를 설계·배포하고, 카네기 멜론 대학 학부·대학원 학생들을 대상으로 설문·성취도 평가를 실시해 CTF 기반 교육이 AML 위협에 대한 관심과 이해를 높이는 데 효과적임을 확인한다. 연구 결과를 바탕으로 AML 방어 전략을 교육 커리큘럼에 통합할 것을 권고한다.

상세 분석

논문은 AML에 대한 인식 격차를 정량·정성적으로 파악하려는 시도로 두 단계의 사용자 연구를 설계했다. 첫 번째 연구에서는 12명의 산업 전문가(연령 25‑34세 비중 64%)를 대상으로 배경(학력, 경력)과 AML 위협에 대한 우려 정도를 조사했으며, 가설 H1‑H5를 설정해 보안·머신러닝·프라이버시 교육이 위협 인식에 미치는 영향을 검증하려 했다. 설문은 IRB 승인을 받았고, 참여자에게 5 USD 보상이 제공되었다. 결과는 보안 교육을 받은 참가자가 AML 위협을 더 크게 인식한다는 상관관계를 보여주지만, 표본이 12명에 불과해 통계적 일반화는 제한적이다. 또한, CTF 활용 여부(H2)와 정책 준수(H3)에 대한 응답은 정성적 서술에 머물러 구체적인 사용 패턴이나 정책 문서 분석이 부족하다.

두 번째 연구에서는 자연어 처리와 생성형 AI 모델을 대상으로 데이터 포이즈닝(라벨 플리핑, 클린 라벨, Feature Collision, Convex Polytope) 공격을 구현한 CTF 과제를 picoCTF 플랫폼에 배포했다. 과제는 학부·대학원 학생 45명을 대상으로 수행됐으며, 사전·사후 설문과 과제 성공률을 통해 학습 효과를 측정했다. 설문 결과, CTF 기반 학습이 AML 위협에 대한 흥미와 이해도를 유의미하게 상승시켰으며, 특히 실습 중심의 학습이 이론 중심 교육보다 높은 동기 부여를 제공한다는 점을 강조한다. 그러나 과제 난이도와 사전 지식 수준 간의 매칭이 충분히 제어되지 않았으며, 성공률 데이터가 공개되지 않아 실제 학습 효과를 정량화하기 어렵다.

관련 연구 검토에서는 AML 공격 분류(인플루언스, 보안 위반, 특이성)와 기존 방어 기법(Adversarial Training, Detection, Robust Optimization, Feature Squeezing 등)을 정리하고, 교육적 관점에서 AI·보안 융합 교육의 필요성을 강조한다. 논문은 이러한 배경을 토대로 산업·학계 간 인식 차이를 메우고, AML 방어 전략을 교육 커리큘럼에 체계적으로 포함시키는 로드맵을 제시한다. 주요 기여는 (1) 산업 전문가와 학생의 인식 데이터를 비교 분석한 점, (2) AML 개념을 실습화한 CTF 과제 개발 및 평가, (3) 교육 정책에 대한 구체적 권고안을 제공한 점이다.

비판적으로 보면, 표본 규모와 모집 방법(특정 컨퍼런스와 대학 알루미니 네트워크) 때문에 선택 편향이 존재할 가능성이 크다. 또한, CTF 과제의 일반화 가능성을 검증하기 위해 다른 대학·기관에서의 재현 실험이 부족하다. 통계 분석이 주로 서술적이며, 가설 검증을 위한 정량적 테스트(p‑값, 신뢰구간 등)가 제시되지 않아 인과 관계를 확정짓기 어렵다. 마지막으로, AML 방어 기술의 최신 동향(예: 대규모 언어 모델에 대한 사전 학습 방어)과의 연계가 제한적이며, 향후 연구에서는 보다 폭넓은 산업 분야와 다양한 학습 수준을 포함한 대규모 연구가 필요하다.