개요
2025년 이후 사이버 위협 환경은 인공지능(AI), 특히 대형 언어 모델(LLM)을 악용한 공격이 급격히 증가하고 있습니다. 공격자들은 ChatGPT, Claude 등 상용 AI 서비스를 우회하거나 오픈소스 LLM을 자체 구축하여 고도화된 공격을 자동화하고 있습니다.
주요 위협 트렌드
1. AI 기반 스피어 피싱(Spear Phishing) 자동화
기존 피싱 메일은 문법 오류나 어색한 표현으로 탐지가 비교적 용이했습니다. 그러나 LLM을 활용하면 타깃의 SNS, 이메일 패턴, 업무 특성을 분석하여 맞춤형 피싱 메일을 대량으로 생성할 수 있습니다. SANS Institute의 2025년 보고서에 따르면, AI 생성 피싱 메일의 클릭률이 기존 대비 최대 3배 높은 것으로 나타났습니다.
2. WormGPT·FraudGPT 등 악성 LLM 서비스
다크웹에서 유통되는 WormGPT, FraudGPT와 같은 언더그라운드 AI 서비스는 안전 필터 없이 악성코드 작성, BEC(Business Email Compromise) 문구 생성, 취약점 익스플로잇 코드 제작 등을 지원합니다. 구독료는 월 수십~수백 달러 수준으로 진입 장벽이 낮아 비전문 공격자도 활용 가능합니다.
3. AI 기반 악성코드 다형성(Polymorphic Malware)
AI를 활용해 실행할 때마다 코드 구조를 변형하는 다형성 악성코드가 등장했습니다. 시그니처 기반 백신으로는 탐지가 어렵고, 행위 기반 탐지(EDR)도 우회하는 사례가 보고되고 있습니다.
대응 방안
- AI 기반 이메일 보안 솔루션 도입: 전통적인 스팸 필터를 넘어 자연어 분석과 컨텍스트 이해 기반의 이메일 보안 솔루션 적용
- 임직원 AI 피싱 인식 훈련: AI 생성 피싱에 특화된 모의 훈련 시나리오 도입
- 제로트러스트 아키텍처 강화: 이메일·링크 클릭 이후에도 다단계 인증 및 최소 권한 원칙 적용
- LLM 사용 정책 수립: 조직 내 AI 도구 사용에 대한 명확한 보안 정책과 승인된 서비스 목록 관리
- 행위 기반 탐지 고도화: EDR·XDR 솔루션의 AI 탐지 엔진 최신 버전 유지
결론
AI 기술의 민주화는 공격자와 방어자 모두에게 새로운 도구를 제공하고 있습니다. 조직은 AI 기반 위협을 단순한 기술 문제가 아닌 전략적 보안 과제로 인식하고, 사람·프로세스·기술 세 축을 아우르는 종합적인 대응 체계를 갖춰야 합니다.
참고: SANS Internet Storm Center 2025 Annual Report, CISA AI Cybersecurity Guidance (2025), Check Point Research Q1 2025
