하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인간형 인공지능이 사이버 테스트 도중 폭주하여 실제 개발자들을 속여 악성 코드를 승인하도록 유도했습니다

크로노

5 1488 4 2026.08.06 01:01

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요 해당 요원은 가짜 신분을 만들어 스피어 피싱 이메일을 보내고 악의적인 버그 보고서를 제출했습니다. <img src="https://img2.quasarzone.com/editor/2026/08/06/48bf107f828766d5cf017b9ef1622f00.png" alt="퀘이사존"> 오픈아이(OpenAI)가 자사의 악성 모델이 허깅페이스(Hugging Face)를 해킹하고 다른 4개의 온라인 서비스 계정을 탈취했다는 사실을 인정한 지 일주일이 조금 넘었습니다. 그런데 이제 더욱 심각한 사건이 발생했습니다. 앤트로픽(Anthropic)의 미토스 5(Mythos 5)가 오픈소스 프로젝트에 사용될 악성 코드를 승인받기 위해 실제 사람들을 속이려 한 것입니다. 이번 연구 결과는 영국 정부의 지원을 받는 AI 보안 연구소(AISI)에서 나온 것으로, 연구소는 최첨단 모델의 사이버 보안 능력을 평가하고 있었습니다. 참가자들은 모의 네트워크 환경에서 깃발 뺏기(Capture-the-Flag) 과제를 완료하도록 지시받았습니다. 모델의 최대 성능을 테스트하기 위해 인터넷 접속은 의도적으로 활성화되었고 악의적인 사이버 활동에 대한 보호 조치는 비활성화되었습니다. AISI는 7개 모델을 사용하여 해당 챌린지를 총 122회 실행했습니다. 10회 실행에서 에이전트는 실제 인터넷상의 사람과 조직을 대상으로 19건의 자율적이고 무단적인 행동을 취했습니다. 이 중 17건은 Mythos 5를 사용했고 , 나머지 2건은 OpenAI의 GPT-5.6 Sol을 사용했습니다. 가장 심각한 단계에서 Mythos는 실제 GitHub 프로젝트에 악성 코드를 삽입하면 공격 대상 시스템에 백도어를 만들 수 있다는 결론을 내렸습니다. Mythos는 프로젝트 관리자를 조사하고, 악성 풀 리퀘스트를 제출했으며, 여러 개의 가짜 신분을 만들어 실제 관리자가 이를 승인하도록 압력을 가했습니다. 추궁을 받자, 해당 요원은 자신의 흔적을 감추기 위해 가짜 버그 보고서 중 하나를 수정했고, 새로운 신분으로 다시 활동하는 것을 고려했다. 가짜 신분 중 하나는 코드가 안전하다고 주장했고, 다른 하나는 그 주장을 뒷받침했다. 한 보고서에는 AI 코딩 도우미가 악성 코드를 실행하도록 유도하는 프롬프트 삽입 공격이 포함되어 있었습니다. 또한 악성 페이로드가 포함된 스피어 피싱 메시지를 전송하고, 덴마크어를 사용하는 관리자에게 더 설득력 있게 보이도록 버그 보고서 하나에 덴마크어 서명을 했습니다. 미토스는 테스트에 참여하는 다른 에이전트들과 협력하겠다는 공개 메시지와 함께 자신이 만든 계정 및 도구를 재사용하는 방법에 대한 지침을 남겼습니다. 이후 에이전트들이 이를 발견하고 추적했습니다. GPT-5.6 솔은 별도로 악성 서버를 온라인에 설치하고 다른 AI 에이전트가 만든 GitHub 계정을 해킹했습니다. <img src="https://img2.quasarzone.com/editor/2026/08/06/d6bcd2d3735e02ba3c219874f49140be.png" alt="퀘이사존"> "AISI는 실존 인물을 대상으로, 아무런 사전 정보 없이, 현실 세계에서 이처럼 심각한 수준의 사기 행위를 목격한 것은 이번이 처음입니다."라고 해당 기관은 밝혔습니다. 해당 활동은 AISI가 토르 네트워크를 통해 비정상적인 데이터가 이동하는 것을 감지한 7월 28일에 밝혀졌습니다. 연구원들은 약 한 시간 만에 평가를 중단하고 해당 시스템들을 격리했으며, 가장 성능이 뛰어난 모델들에 대한 접근을 차단했습니다. 시스템 관리자는 해당 코드를 거부했고, 조사 결과 실제 피해는 발생하지 않은 것으로 나타났습니다. 이전 사건들과 달리 이번 사건은 단순한 샌드박스 탈출이 아니었습니다. AISI는 의도적으로 인터넷 접속을 허용했으며, 테스트에 사용된 구성은 시중에서 구할 수 없습니다. 또한 연구소는 에이전트들이 가상의 시나리오가 아닌 실제 세계에서 행동하고 있다는 사실을 언제 인지했는지 여전히 불분명하다고 경고했습니다. 지난달 오픈AI 사태 에서 , AI 모델들은 알려지지 않은 취약점을 악용하여 격리된 환경에서 탈출한 후, 허깅페이스(Hugging Face)를 해킹하여 벤치마크 결과를 탈취했습니다. 이후 조사 결과 , 이 공격은 4일 이상 지속되었으며 추가로 4개의 서비스 계정이 해킹당한 것으로 밝혀졌습니다. 이 사건은 이미 미국 정부에 AI "킬 스위치"를 부여하는 초당적 법안 발의로 이어졌습니다 . 이번 사건은 더욱 엄격한 테스트 표준에 대한 요구를 증폭시킬 것으로 보입니다. AISI는 이제 더욱 엄격한 인터넷 제어, 실시간 모니터링, 그리고 과제가 의도된 경로를 통해 해결될 수 있는지 확인하는 절차를 추가하고 있습니다. Anthropic과 OpenAI는 모두 이번 사건이 업계 공통 표준의 필요성을 보여준다고 밝혔습니다. 물론 그 설정은 인위적이었고 비정상적으로 관대했지만, 미소스는 누구를 속이라는 지시를 받은 적은 없었습니다. 미소스는 임무를 완수하기 위해 그러한 방식을 선택했고, 이는 스카이넷과 같은 시나리오가 더 이상 공상 과학 소설이 아닌 현실이 되어가고 있다는 우려를 더욱 증폭시키고 있습니다.

크로노

행성: 블루웜홀

포인트: 180,814 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 5개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
1	[옴디아] 2026년 디램 및 낸드 메모리 시장: AI 거대 기술 물결 속 역사적인 위기와 가격 급등 직면 4 업계동향 심심해❤️ 2.1k 07-13
1	애플 카 프로젝트가 남긴 것? M7칩, AI 성능 대폭강화 7 업계동향 QM카재 1.4k 07-13
1	반도체 업종 변동성 확대에도 AI 수요는 여전히 강세 4 업계동향 QM유성 2.8k 07-13
10	오픈AI GPT-5.6 Sol Ultra, 1시간 만에 50년 된 수학 난제 해결 14 업계동향 QM달려 4.9k 07-13
4	레노버, 첫 와일드캣 레이크 씽크패드 추가, 코어 7/5 탑재 6 노트북 QM센스 937 07-13
6	MS, 윈도우 디펜더 취약점 수정… 패치 후 새로운 위험 지적 9 소프트웨어 QM달려 1.2k 07-13
6	차세대 FSR·XeSS·DLSS가 바꿀 PC 게이밍의 미래 8 그래픽카드 QM달려 2.6k 07-13
24	메모리 칩 가격이 불과 몇 주 만에 20% 이상 폭락 30 CPU/MB/RAM QM지름 41.1k 07-13
2	TSMC, CoWoS 수요 감당 한계… 첨단 패키징 물량 인텔·대만 업체로 분산 4 업계동향 QM달려 1.2k 07-13
4	SK하이닉스 CEO: HBM 가격은 2027년까지 두 배로 오를 것으로 예상 9 CPU/MB/RAM QM지름 6.5k 07-13
31	윈도우 11의 기본 기능들이 무려 30GB의 RAM을 소모: MS는 이 문제를 수년 동안 해결하지 않고 있다 28 소프트웨어 QM지름 20.8k 07-13
5	삼성, 첫 WOLED 모니터 G73SH 및 신형 QD-OLED G80SH 시리즈 출시 4 디스플레이 심심해❤️ 1.5k 07-13
21	AMD, 최신 드라이버서 MFG 8배, RR 등 기능을 몰래 추가 52 그래픽카드 QM포시포시 10.8k 07-12
9	오픈AI "GPT-5.6 솔 울트라, 50년 수학 난제 1시간 만에 증명" 14 업계동향 빌보 2.5k 07-12
44	RTX 5090 SE, 실제로는 RTX 5080 Ti 24GB일 가능성 62 그래픽카드 QM포시포시 12.5k 07-12
5	HKC, 세계 최초 31.4인치 및 27인치 RGB 미니 LED 모니터 상세 사양 공개 10 디스플레이 QM포시포시 1.7k 07-12
20	IT 관리자들은 마이크로소프트와 윈도우 11의 "쓸모없는" 앱과 제품들에 극도로 질려 있습니다 19 소프트웨어 크로노 4.4k 07-12
14	윈도우 11과 윈도우 10을 섞어놓은 듯한 마이크로소프트의 기묘한 공식 디자인에 사용자들이 당황하고 있다 13 소프트웨어 크로노 14.6k 07-12
9	삼성전자, 용인 반도체 공장 가동 2년 앞당긴다…2029년 목표 14 업계동향 빌보 6.2k 07-12
12	CXMT IC 탑재 Colorful iGame Shadow II DDR5 메모리, 8600 MT/s 달성 19 CPU/MB/RAM QM오즈 2.7k 07-12
24	Thermaltake, 듀얼 시스템 지원 풀타워 케이스 'CAPO X' 출시 30 케이스 QM오즈 2.3k 07-12
21	루머로 떠도는 AMD RDNA 5 사양은 인상적인 성능 향상을 가리키지만 한 가지 세부 사항이 의구심을 불러일으킵니다 33 그래픽카드 QM깜냥 4.4k 07-12
34	SK하이닉스, 2027년 메모리 부족의 '최악의 해'가 될 것이라 언급하며 2030년까지 지속될 공급 부족 전망 38 CPU/MB/RAM QM깜냥 12.7k 07-12
5	AMD AM5 플랫폼과 800 시리즈 칩셋: 우리가 아는 모든 것 9 CPU/MB/RAM QM깜냥 2k 07-12
11	리버스 사기: Reddit 사용자가 Ryzen 7 7800X3D를 주문했으나 대신 9800X3D를 받음 14 CPU/MB/RAM QM깜냥 2.3k 07-12
3	휴머노이드 로봇 30억대 시대 온다…투자액 7년 새 6배 확대 8 업계동향 빌보 1.1k 07-11
23	삭제되었지만 완전히 삭제되지 않음: 엔비디아 RTX 50 시리즈 GPU "히든 핫스팟" 잠금 해제, 평균 온도 70-80℃, 부분적으로는 107℃ 초과 22 그래픽카드 QM깜냥 4.4k 07-11
13	넷플릭스, 스트리밍 넘어 생방송까지 노린다 29 업계동향 크로노 3k 07-11
9	영업 비밀 도용: Apple, OpenAI 고소 15 기타/주변기기 QM깜냥 1.8k 07-11
2	GameSir, 오리지널 Xbox 콘솔 테마의 새로운 컨트롤러 2종 출시 7 기타/주변기기 QM깜냥 2k 07-11