
중국의 AI 모델 DeepSeek가 지나치게 광범위한 프롬프트에 응답하는 과정에서 실제로 동작 가능한 랜섬웨어 기법을 우연히 생성한 것으로 나타났습니다.
보안업체 Check Point Research의 최신 보고서에 따르면, DeepSeek가 생성한 샘플은 기존에는 이론적으로만 논의되던 브라우저 취약점과 실제 공격 기법을 연결했습니다. 이 공격은 별도의 취약점 악용이나 앱 설치 없이도 실행될 수 있으며, 공격자에게 높은 수준의 기술력도 요구하지 않는 것으로 분석됐습니다.
해당 공격은 File System Access API라는 정상적인 브라우저 기능을 악용합니다. 공격자는 이를 AI 사진 보정 도구로 위장해 사용자를 속인 뒤, 안드로이드 기기의 사진 저장 공간에 접근하는 방식입니다.
공격의 작동 방식 공격 대상은 안드로이드의 DCIM 폴더입니다. 이 폴더에는 수년간의 사진뿐 아니라 신분증 스캔본, 금융 관련 스크린샷 등 민감한 정보가 저장되는 경우가 많습니다.
피해자는 AI 기반 사진 보정 기능을 사용하는 것으로 착각한 채 단 한 번의 권한 허용만으로 폴더 전체에 대한 접근 권한을 부여하게 됩니다.
Check Point는 DeepSeek가 생성한 약 3,000개의 파일을 분석했으며, VirusTotal과 정적 분석을 통해 이 가운데 1,383개를 악성 또는 위험 요소를 포함한 파일로 분류했습니다.
연구진은 그중 실제 사례에서는 한 번도 확인되지 않았던 브라우저 기반 공격 기법을 구현한 샘플을 발견했으며, 이를 'InfernoGrabber 9000'이라는 이름으로 명명했습니다. 비록 해당 샘플은 완성되지 않은 상태였지만, 연구진은 약간의 수정만으로 완전한 공격 코드로 발전시킬 수 있었다고 밝혔습니다.
Check Point의 악성코드 분석팀장 Pedro Drimel Neto는 다음과 같이 설명했습니다. "추가 작업은 거의 필요하지 않습니다. 낮은 수준의 기술만 있어도 충분하며, 고도의 사이버 범죄 조직이나 APT 수준의 역량은 필요하지 않습니다."
그는 이어 "이미 실제 공격자들이 단순한 LLM 프롬프트를 이용해 같은 공격을 시도한 정황도 확인했다"고 덧붙였습니다.
새로운 전환점 Check Point 연구 책임자 Eli Smadja는 이번 사례에 대해 다음과 같이 평가했습니다. "우리가 목격하고 있는 것은 새로운 사이버 공격이 탄생하는 방식의 근본적인 변화입니다. AI 모델이 정상적인 플랫폼 기능을 스스로 조합해 새로운 공격 방식을 추론한 첫 사례를 확인한 것입니다."
다만 브라우저 자체의 위험성이 완전히 새로운 것은 아닙니다. 2023년 발표된 USENIX Security 논문에서도 File System Access API가 이론적으로 랜섬웨어에 악용될 수 있다는 가능성이 제기된 바 있습니다.
Check Point는 차이점이 DeepSeek가 사람의 개입 없이 기존의 이론적 가능성을 현실적인 공격 체인으로 연결했다는 점이라고 설명했습니다.
연구진이 최신 DeepSeek V4 모델로 동일한 실험을 진행한 결과, 랜섬웨어를 직접 요청하는 프롬프트는 거부했지만 관련 용어를 제거하자 동일한 방식의 코드를 생성하는 것으로 나타났습니다.
반면 다른 대형 언어 모델(LLM)들은 요청을 거부하거나 브라우저의 파일 접근 기능을 사용할 수 없는 제한적인 코드만 생성했습니다.
Check Point는 최종적으로 자체 개념증명을 제작해 Chrome 148이 실행되는 안드로이드 기기에서 사진 파일 암호화에 성공했으며, 해당 위험이 단순히 DeepSeek의 한 사례에 국한되지 않는다고 경고했습니다.
연구진은 AI를 업무 환경에 도입하는 기업들이 앞으로는 브라우저의 모든 권한 요청을 단순한 확인 절차가 아닌 중요한 보안 결정으로 인식해야 한다고 강조했습니다.
※ 자세한 내용은 원문을 참조해주세요.
※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. |