
인공지능은 이제 사이버 범죄자들이 사기를 자동화하고, 피싱 캠페인을 대규모로 확장하며, 이전에는 현실적으로 불가능했던 수준으로 사칭을 산업화하는 데 활용되고 있다.
안타깝게도 AI를 활용한 공격은 올해 기업이 직면할 가장 큰 보안 위협 가운데 하나가 될 수 있지만, 위협을 인지하고 신속하게 대응한다면 한발 앞서 대비할 수 있다.
Group-IB의 ‘무기화된 AI’ 보고서에 따르면, 범죄자들의 AI 활용 증가는 일시적인 실험 단계가 아닌, 상용 AI 도구의 보급에 의해 촉발된 사이버 범죄의 명확한 다섯 번째 물결로 자리 잡고 있다.
AI 기반 사이버 범죄 활동의 증가 다크웹 모니터링 결과는 AI 관련 사이버 범죄 활동이 새로운 기술에 대한 단기적인 반응이 아님을 보여준다.
Group-IB는 2019년부터 2025년 사이 다크웹에서 AI 관련 키워드를 언급한 최초 게시물이 371% 증가했다고 밝혔다.
가장 뚜렷한 가속화는 2022년 말 ChatGPT가 공개된 이후 나타났으며, 이후 관심도는 지속적으로 높은 수준을 유지하고 있다.
2025년 기준으로 매년 수만 건의 포럼 토론에서 AI 오남용이 언급되고 있으며, 이는 실험적 호기심이 아닌 안정적인 지하 시장이 형성됐음을 의미한다.
Group-IB 분석가들은 대규모 언어 모델 악용에 명시적으로 초점을 맞춘 게시물 최소 251건을 확인했으며, 대부분의 언급은 오픈AI 기반 시스템과 연관돼 있었다.
안전장치가 없는 자체 호스팅 다크 LLM을 제공하는 최소 3개 공급업체가 등장하면서, 구조화된 AI 범죄웨어 경제가 형성됐다.
구독 요금은 월 30달러에서 200달러 수준이며, 일부 공급업체는 1,000명 이상의 사용자를 보유하고 있다고 주장하고 있다.
가장 빠르게 성장하는 분야 중 하나는 사칭 서비스로, 신원 인증 우회를 목적으로 한 딥페이크 도구 언급이 전년 대비 233% 증가했다.
입문용 합성 신원 키트는 5달러 수준에 판매되며, 실시간 딥페이크 플랫폼은 1,000달러에서 1만 달러에 이르는 것으로 나타났다.
Group-IB는 2025년 1월부터 8월까지 단일 기관에서 딥페이크를 활용한 사기 시도 8,065건을 기록했으며, 전 세계적으로 확인된 피해액은 3억 4,700만 달러에 달했다.
AI 지원 악성코드와 API 오남용 역시 급격히 증가했으며, AI가 생성한 피싱 기법은 악성코드 서비스형 플랫폼과 원격 액세스 도구에 이미 통합된 상태다.
전문가들은 AI 기반 공격이 지속적인 모니터링과 시스템 업데이트 없이는 기존 방어 체계를 우회할 수 있다고 경고한다.
네트워크는 비정상 트래픽과 AI 생성 피싱 시도를 식별할 수 있는 방화벽을 통해 보호돼야 한다.
적절한 엔드포인트 보호 솔루션을 갖추면, 악성코드나 원격 액세스 도구가 확산되기 전에 의심스러운 활동을 탐지할 수 있다.
AI 기반 공격은 기존 대응 방식보다 훨씬 빠르게 실행되고 전파될 수 있기 때문에, 신속하고 적응형인 악성코드 제거 역량 역시 핵심 요소로 꼽힌다.
계층화된 보안 전략과 이상 징후 탐지를 결합하면, 딥페이크 전화, 음성 복제, 가짜 로그인 시도와 같은 침입을 효과적으로 차단할 수 있다.
※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. |