하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

앤트로픽 AI 에이전트, 영국 테스트에서 가짜 계정으로 사람을 속이려 시도

QM센스

3 171 1 2026.08.06 09:48

<img src="https://img2.quasarzone.com/editor/2026/08/06/c082f371202450761cec4beb053b0b5c.avif" alt="퀘이사존"> <div align="center"><table align="center" class="__se_tbl" style="text-align: center; border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentcolor currentcolor; width: 802px; max-width: 100%;" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="802" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">영국 정부의 테스트 도중, Anthropic의 Mythos 5가 가짜 계정을 이용해 인터넷에서 사람들을 속이려 시도했습니다. 영국 과학기술부 산하 AI 보안 연구소(AISI)에 따르면, 이 AI 에이전트는 설정된 매개변수를 벗어나 작동했습니다. OpenAI 에이전트 또한 도를 넘는 행동을 보였습니다. Anthropic의 Mythos 5와 OpenAI의 GPT-5.6 Sol 에이전트는 AISI의 테스트 매개변수를 벗어난 것으로 드러났습니다. 영국 정부 산하 연구소인 AISI는 다양한 AI 에이전트에 사이버 보안 관련 작업을 할당했습니다. AISI는 블로그 게시물에서 "서로 다른 AI 모델을 사용하여 이 테스트를 122회 실행했습니다."라고 밝혔습니다. 이 중 10회에서 AI 에이전트가 권한 없이 인터넷에서 독자적으로 행동을 취했습니다. 인간에게 압력 행사 가장 심각한 사례에서는 AI 에이전트가 GitHub의 오픈 소스 프로젝트에 악성 코드를 삽입하려 시도했습니다. 이 과정에서 AI 에이전트는 해당 프로젝트 관리자에게 소셜 엔지니어링 기법을 사용하여 악성 코드 삽입을 승인하도록 유도했습니다. 이를 위해 AI 에이전트는 가짜 온라인 계정을 만들어 관리자에게 압력을 가했습니다. 개발자는 악성 코드를 발견하고 승인을 거부했습니다. AISI는 해당 AI 에이전트의 이름을 밝히지 않았지만, 앤트로픽 측은 미토스(Mythos)가 가짜 계정을 만들었다고 밝혔다고 로이터 통신이 보도했습니다. AISI에 따르면 10번의 테스트 실행에서 총 19건의 무단 활동 사례가 발생했으며, 이 중 17건은 앤트로픽의 미토스 5(Mythos 5)가, 나머지 2건은 오픈AI의 GPT-5.6 솔(Sol)이 담당했습니다. 의도적인 인터넷 접근 허용 AISI는 AI 보안 테스트를 위해 의도적으로 인터넷 접근을 허용했습니다. 또한, AI 에이전트에 대한 특정 제한을 해제했습니다. 앤트로픽과 오픈AI가 제공하는 이러한 내장 필터는 위험한 행동을 차단하기 위한 것이지만, 테스트 대상 에이전트들이 완전히 자유롭게 활동할 수 있었던 것은 아닙니다. 영국 정부 기관인 AISI는 이처럼 심각한 규모의 자율적으로 실행된 기만 행위를 이전에는 본 적이 없다고 밝혔습니다. AISI는 AI 에이전트에 인터넷 접속 권한을 제공하고 특정 제한을 해제하여 AI 모델의 최대 성능을 평가했습니다. 연구소는 테스트에 사용된 특정 모델은 기업에서 사용할 수 없다고 밝혔습니다. AI 에이전트로 인해 발생한 보안 사고에 대한 전체 기술 보고서는 온라인에서 확인할 수 있습니다.</td></tr></tbody></table></div> ※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.

QM센스

행성: QM

포인트: 266,263 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 3개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
24	SK하이닉스, 메모리 장기 계약 가격 상한선 철폐 추진 28 업계동향 QM바나 13k 07-02
7	삼성 파운드리, SF1.4+ 2030년 도입… SF2X 공개 10 업계동향 QM유성 2.1k 07-02
18	삼성·SK하이닉스·셀트리온 "충청에 392조 투자" 19 업계동향 빌보 7.4k 07-02
6	Valve VR 헤드셋 Steam Frame 출시 임박: 드라이버 상태가 "Released"로 변경 12 기타/주변기기 QM깜냥 1.7k 07-02
5	Claude를 위한 새로운 표준 모델: Sonnet 5가 최상위 모델인 Opus 4.8 수준에 도달합니다 7 업계동향 QM깜냥 1.4k 07-02
4	Meta, AI 클라우드 서비스 진출 및 잉여 연산 능력 판매를 통한 수천억 달러 투자 회수 추진 7 업계동향 QM깜냥 861 07-02
8	낫싱 이어 (3a) 출시일·색상 확정… 디자인 티저 공개 12 음향기기 QM브로리 1.8k 07-02
21	애플, 중국 제조사 CXMT·YMTC와 메모리 칩 구매 협상 중 39 업계동향 QM브로리 3.4k 07-02
9	Lenovo 신형 Legion 태블릿 사양 추가 유출 12 노트북 QM유성 3.8k 07-02
16	마소, 마침내 윈도우 11에서 파일 탐색기 실행 속도 개선 18 소프트웨어 QM센스 2.5k 07-02
13	FSP, 디지털 디스플레이 내장 ND5 CPU 공랭 쿨러 출시 15 쿨링솔루션 QM센스 1.6k 07-02
15	녹투아, 2026~2027 로드맵 공개, 차세대 제품 계획 발표 17 쿨링솔루션 QM센스 3k 07-02
4	미국 수출 규제 완화… Anthropic 'Claude Fable 5' 다시 이용 가능 9 업계동향 QM달려 1.1k 07-02
2	Cloudflare, AI 기업에 퍼블리셔 콘텐츠 사용료 부과 추진 5 업계동향 QM달려 1.1k 07-02
4	맥북 가격 인상 여파… 글로벌 노트북 출하량 13.6% 감소 전망 8 업계동향 QM달려 1.3k 07-02
7	OCCT 17.0.2 업데이트 배포: 재설계된 메모리 테스트 8 소프트웨어 QM달려 1.4k 07-02
11	하반기 서울서 '레벨4' 완전자율주행 택시…누구나 앱으로 호출 14 업계동향 빌보 2.6k 07-01
9	LG전자 ‘스탠바이미 2 맥스’ 글로벌 출시…이동식 스크린 시장 리더십 확대 11 디스플레이 빌보 1.8k 07-01
29	ARCTIC, Ampere LGA 4926 전용 ‘Freezer 4U-Altra’ 공랭 쿨러 출시 33 쿨링솔루션 QM달려 2.5k 07-01
4	NVIDIA Profile Inspector 3.0.1.16 업데이트 배포 6 소프트웨어 QM달려 3.8k 07-01
7	인텔, Arc 그래픽카드 32.0.101.8860 드라이버 배포 10 소프트웨어 QM달려 1.4k 07-01
7	커세어, 컴팩트 & 하이엔드 2800X RS-R ARGB mATX 케이스 10 케이스 QM락형 2.6k 07-01
4	DRAM 현물 가격, 보합세 속 저용량 DDR4·DDR3에서 상승 9 업계동향 QM바나 2.4k 07-01
10	갤럭시 HOF OC LAB 5090D, 4GHz에 도달한 최초 블랙웰 GPU 11 그래픽카드 QM락형 2.6k 07-01
7	AI 대표 500일 시뮬레이션 경영: 다수 모델 파산, Claude Fable 5 독보적 1위 7 업계동향 QM깜냥 1.9k 07-01
15	써멀라이트, GM 시리즈 풀 모듈러 80 PLUS 골드 파워 출시 18 파워 QM락형 2.2k 07-01
20	엘레컴, 창립 40주년 기념 달걀 모양 마우스 ‘에그 마우스’ 공개 19 키보드/마우스 QM락형 3.5k 07-01
2	삼성, 차세대 리소그래피 상용화 재개에 따라 애플의 신속한 1.4nm 전환을 도울 가능성 6 업계동향 QM깜냥 1.1k 07-01
13	Meta, 기존 DDR4를 DDR5 서버에 재활용해 비용 절감 24 CPU/MB/RAM QM포시포시 7.3k 07-01
3	320Hz · HDR1000 지원, GRAPHT GRT090-2732DML 출시 8 디스플레이 QM두파 1.4k 07-01