'Cryptography and Security' 카테고리의 모든 글
(본 논문은 자동화된 협상 과정을 위한 장치 원생 에이전트 AI 시스템을 제안합니다. 이 시스템은 6단계 아키텍처를 통해 개인 정보 보호, 투명성, 공정한 협상을 가능하게 합니다.)
본 연구에서는 하이브리드 모델 압축 후 리소스 제약 환경에 배포할 수 있는 다단계_IDS를 구현하였습니다.
스마트 홈 IoT 애플리케이션의 급속한 채택은 가정 자동화를 혁신적으로 변화시켰지만, 이에 따른 규칙 상호작용 위협(RIT)을 해결하기 위한 도전 과제가 발생했습니다. 기존 접근 방식은 정밀도는 높으나 대규모 코드베이스에서의 확장성과 적응력이 부족합니다. 본 논문에서는 대형 언어 모델(LLMs)이 IoT 자동화 시스템에 대한 보안 분석을 개선하는 데 얼마나 효과적인지 평가했습니다.
보안 정보 및 이벤트 관리(SIEM) 시스템은 대규모 기업들이 매일 수백만 개의 로그와 이벤트를 수집하고 분석하여 IT 인프라스트럭처를 모니터링하는 데 필수적입니다. 보안 운영 센터(SOC) 분석가는 이러한 방대한 데이터를 모니터링하고 분석하여 잠재적인 위협을 식별하고 기업 자산을 보호하기 위한 예방 조치를 취해야 합니다. 하지만 Palo Alto Networks Qradar, Google SecOps, Splunk, Microsoft Sentinel 및 Elastic Stack과 같은 SIEM 플랫폼들 간의 다양성은 상당한 도전 과제를 제기합니다. 이러한 시스템들은 속성, 아키텍처, 쿼리 언어에서 차이점이 있어 분석가들이 광범위한 훈련을 받지 않으면 여러 플랫폼을 효과적으로 모니터링하기 어렵고 기업은 인력을 확대해야 하는 상황입니다. 이 문제를 해결하기 위해 우리는 플랫폼에 무관한 사양에서 다중 SIEM 플랫폼용 위협 탐지 또는 사건 조사 쿼리를 자동으로 생성하는 통합 프레임워크인 SynRAG을 도입합니다. SynRAG은 분석가가 작성한 단일 고수준 사양으로 특정 플랫폼에 맞는 쿼리를 생성할 수 있습니다. SynRAG 없이 분석가는 시스템 간에 크게 차이가 나는 쿼리 언어 때문에 각 SIEM 플랫폼별로 별도의 쿼리를 수작업으로 작성해야 합니다. 이 프레임워크는 다양한 SIEM 환경에서 위협 탐지와 사건 조사를 원활하게 진행할 수 있도록 하여 전문적인 훈련과 수동 쿼리 번역에 대한 필요성을 줄입니다. 우리는 Qradar 및 SecOps를 대표적인 SIEM 시스템으로 사용하여 GPT, Llama, DeepSeek, Gemma, Claude와 같은 최첨단 언어 모델들과 SynRAG을 비교 평가하였습니다. 우리의 결과는 SynRAG이 위협 탐지와 사건 조사에 있어 다양한 SIEM 환경에서 최첨단 기본 모델보다 훨씬 더 좋은 쿼리를 생성한다는 것을 보여줍니다.
추가 제조(AM)는 항공우주, 자동차, 의료 등 중요 산업 분야에 신속하게 통합되고 있습니다. 하지만 이 사이버-물리적 융합은 특히 컴퓨터 지원 설계(CAD)와 기계 실행 레이어 간의 인터페이스에서 새로운 공격 표면을 소개합니다. 본 연구에서는 광범위하게 사용되는 용융 침착 모델링(FDM) 시스템인 크리얼러티의 플래그십 모델 K1 Max와 엔더 3에 대한 정교한 사이버공격을 조사하였습니다. 우리의 위협 모델은 대항자들이 사용자 인터페이스로부터 프린터 펌웨어까지 G코드 파일을 전송하는 과정에서 가로채고 조작하는 다층적 Man-in-the-Middle(MitM) 침입입니다. 이 MitM 침입 체인은 몇 가지 비밀리에 이루어지는 파괴 시나리오를 가능하게 합니다. 이러한 공격들은 기존의 슬라이서 소프트웨어나 런타임 인터페이스로는 감지할 수 없으며, 구조적으로 결함이 있지만 외부적으로 신뢰할 수 있는 프린팅 부품을 생성합니다. 이러한 비밀리에 이루어지는 위협에 대응하기 위해, 우리는 생생한 프린팅 동안 생성되는 구조화된 머신 로그를 분석하는 무감독 침입 탐지 시스템(IDS)을 제안하였습니다. 우리의 방어 메커니즘은 변형 BERT로 이루어진 동결된 Transformer 기반 인코더를 사용하여 시스템 행동의 의미 표현을 추출하고, 이어서 대조적으로 학습된 투영 머리가 이상 감도 임베딩을 배우도록 합니다. 이후에는 클러스터링 기반 접근 방식과 자기 주의 자동 인코더를 사용하여 분류합니다. 실험 결과는 우리의 접근법이 무해한 실행과 침해된 실행 사이에서 효과적으로 구분한다는 것을 보여줍니다.
AI 모델을 훈련시키는 비용이 급증하면서, 특히 고급 AI 시스템은 국가 안보 자산으로 인식되고 있습니다. 이에 따라 모델 가중치를 해킹에서 보호하려는 관심이 증가하고 있으며, 특히 가중치 유출 공격이 주요 문제로 부각되었습니다. 본 논문에서는 큰 언어 모델(Large Language Model, LLM)의 압축 기술을 이용해 가중치 유출 공격의 가능성과 방어 방법에 대해 분석하였습니다.
(이 논문에서는 Go-Explore 알고리즘을 사용하여 LLM 에이전트의 안전성을 테스트하고, 무작위 시드 변동성이 알고리즘 선택보다 큰 영향을 미친다는 것을 보여줍니다. 또한, 악성 공격 탐지에 대한 다중 에이전트 조합 전략이 공격 유형 다양화를 제공한다는 점도 확인했습니다.)
비공개 macOS 프레임워크는 중요한 서비스와 데몬을 지원하지만 문서화되지 않고 스트립된 바이너리 형태로만 배포되어 보안 분석에 어려움을 초래합니다. 저희는 Objective-C 타입 추론을 위한 특수화된 튜닝 대형 언어 모델과 도구 확장 분석을 통합하는 에이전트 프레임워크인 MOTIF를 소개합니다. 이 에이전트는 런타임 메타데이터 추출, 바이너리 검사, 그리고 제약 조건 확인을 관리하며, 모델은 후보 메소드 시그니처를 생성하고 이를 검증하여 컴파일 가능한 헤더로 정제합니다. MOTIF-Bench는 공개 프레임워크로부터 만들어진 벤치마크에 실제 헤더가 포함되어 있으며, 여기서 MOTIF는 기준 정적 분석 도구보다 시그니처 복원률을 15%에서 86%로 개선했으며, 도구 사용의 정확성과 추론의 안정성을 지속적으로 높였습니다. 비공개 프레임워크에 대한 사례 연구에서는 재구성된 헤더가 컴파일되고 링크되며, 이후 보안 연구와 취약점 분석을 지원하는 것을 확인할 수 있습니다. MOTIF는 불투명한 바이너리를 분석 가능한 인터페이스로 변환함으로써 macOS 내부의 체계적인 심사에 대한 확장 가능한 기반을 구축합니다.
LVLMs는 시각적 구성 요소를 통합한 대형 언어 모델(LLMs)로, GPT-4, GPT-5, LLaVa, Flamingo와 같은 다양한 다중모달 응용 프로그램에서 뛰어난 성능을 보여주고 있습니다. 그러나 시각적 요소의 통합은 새로운 취약점을 초래하며, 최근 연구는 LVLMs가 적대적인 공격에 약하다는 것을 드러냈습니다. 이러한 공격은 모델 내부에서 사용할 수 있는 기울기 정보를 필요로 하는데, 이는 계산적으로 비용이 많이 들고 블랙박스 환경에서는 제한적입니다. 본 논문에서는 ZO-SPSA라는 기울기 없는 블랙박스 공격 프레임워크를 제안하며, 이를 통해 LVLMs에서 안전 장벽을 무너뜨리는 효과적인 적대적 예제를 생성하는 방법을 설명합니다.
이 연구는 교육 기관 내에서 사이버 보안 조치를 개선하기 위한 머신 러닝 기법의 적용을 탐색합니다. 저자들은 전통적인 방법보다 더 정확하게 잠재적 사이버 위협을 감지할 수 있는 지도 학습과 비지도 학습 알고리즘을 결합한 하이브리드 모델을 제안합니다. 대학 네트워크의 실제 데이터셋에서 광범위한 테스트를 통해, 제안된 모델은 가짜 긍정 사례를 줄이면서 감지율을 개선한다는 것을 보여줍니다.
대형 언어 모델(LLM)의 조직 보안 인프라 통합은 네트워크 컴퓨팅 이후 위협 환경에서 가장 큰 변화 중 하나일 수 있습니다. LLMs는 이제 채팅봇 인터페이스를 벗어나 자동화된 에이전트로서 코드 실행, 자격 증명 관리, 경보 처리 등의 역할을 수행하고 있습니다. 이 논문은 이러한 LLMs가 인간 심리를 모방하는 방식에 중점을 두고 있으며, 이를 이용한 사회 공학적 공격의 위험성을 분석합니다.
본 논문에서는 패치 기반 적대적 공격에 대응하기 위한 경량화된 방어 메커니즘인 PatchBlock을 제안한다. PatchBlock은 이미지의 특정 영역에서 발생하는 이상치를 검출하고 중립화하여 적대적 패치의 영향력을 줄이는 데 초점을 맞추고 있다.
검색어를 입력하세요