하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

여러 ChatGPT 인스턴스가 함께 작동하여 보안 결함을 찾고 악용합니다

블랙웰

3 518 1 2024.06.11 18:50

<img src="https://img2.quasarzone.com/editor/2024/06/11/3bc804b299958a987adc49169d098bc6.png" alt="퀘이사존"> 유인원(또는 AI)이 힘을 합치면 강해집니다.
 GPT-4 인스턴스 팀은 결함의 특성에 대한 설명 없이도 함께 협력하여 제로데이 보안 취약점을 자율적으로 식별하고 익스플로잇할 수 있습니다. 기획 요원이 전문 LLM 팀을 지휘하는 이 새로운 개발은 인간 전문가나 전용 소프트웨어보다 더 빠르고 스마트하게 작동합니다.
 일리노이대학교 어바나-샴페인 캠퍼스(UIUC)의 연구원들은 수개월 동안 보안 취약점을 해킹하는 AI의 능력을 연구해왔으며, 취약점의 특성에 대한 설명이 제공되었을 때 보안 결함을 뚫는 ChatGPT의 탁월한 능력을 처음으로 발표했습니다. 그 후 새로운 지평을 연 것은 대학의 HPTSA(계층적 계획 및 업무별 에이전트) 시스템을 혁신하여 팀 단위로 작업하는 GPT-4 모델의 효율성을 두 배 이상 높일 수 있게 된 것입니다. <img src="https://img2.quasarzone.com/editor/2024/06/11/1308317d4a132780b0797a920fe6cfa1.png" alt="퀘이사존">리차드 팡, 로한 빈두, 아쿨 굽타, 치우시 잔, 다니엘 강이 작성한 원래 UIUC 연구의 HPTSA 개요 도표. (이미지 크레딧: Richard Fang, Rohan Bindu, Akul Gupta, Qiusi Zhan, Daniel Kang)

 6월 연구와 연구원 Daniel Kang의 블로그 게시물에 설명된 대로, HPTSA는 더 높은 성공률로 문제를 해결하기 위해 LLM 모음을 사용합니다. 강 연구원은 이 시스템의 필요성에 대해 이렇게 설명합니다: "단일 AI 에이전트는 매우 강력하지만 기존의 LLM 기능으로는 한계가 있습니다. 예를 들어, AI 에이전트가 한 경로(예: XSS 익스플로잇 시도)로 이동하면 에이전트가 역추적하여 다른 취약점을 익스플로잇하기는 어렵습니다." "게다가 LLM은 단일 작업에 집중할 때 가장 뛰어난 성능을 발휘합니다."
 플래너 에이전트는 웹사이트나 애플리케이션을 조사하여 어떤 익스플로잇을 시도할지 결정하고, 이를 작업별 에이전트 LLM에 위임하는 관리자에게 할당합니다. 이 시스템은 복잡하지만 팀의 이전 연구와 오픈 소스 취약점 스캔 소프트웨어에 비해 크게 개선되었습니다. 15개의 보안 취약점을 대상으로 한 실험에서 HPTSA 방식은 15개의 취약점 중 8개를 성공적으로 익스플로잇하여 15개 중 3개만 익스플로잇한 단일 GPT-4 에이전트를 이겼고, 단 하나의 취약점도 익스플로잇하지 못한 ZAP 및 MetaSploit 소프트웨어는 무력화시켰습니다.
 HPTSA는 프롬프트에 취약점에 대한 설명이 제공된 GPT-4 에이전트가 15번 중 11번을 성공하는 데 그쳤습니다. 이 에이전트는 UIUC가 지난 4월에 실시한 연구의 정점으로, 속도와 효과 면에서 인간 해커보다 뛰어난 것으로 밝혀졌습니다.
 OpenAI는 논문 저자들에게 이 실험과 첫 번째 실험에 사용한 프롬프트를 공개하지 말 것을 특별히 요청했고, 저자들은 이에 동의하며 "요청이 있을 때만" 프롬프트를 공개하겠다고 밝혔습니다. 경쟁사 LLM을 사용한 이전 테스트에서 심각한 결함이 발견되었으며, 업데이트된 GPT-4o는 품질 면에서 GPT-4보다 크게 우수하지 않은 것으로 밝혀졌습니다.
 UIUC 팀의 연구는 대규모 언어 모델에는 겉으로 드러나는 것 이상의 기능이 있다는 충격적인 사실을 계속해서 밝혀내고 있습니다. OpenAI는 표면적인 챗봇에서 찾을 수 있는 정보를 바탕으로 소프트웨어의 안전성을 평가하지만, 주의 깊게 살펴보면 ChatGPT는 사이버 보안을 뚫거나 심지어 마약 제조 방법을 가르치는 데 사용될 수 있습니다.

블랙웰

행성: 은하

포인트: 631,337 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 3개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
4	iBUYPOWER와 HYTE, 호요버스의 붕괴: 스타레일을 테마로 한 새로운 제품 라인 공개 7 기타/주변기기 Wormhole 3.2k 07-02
2	ASUS, APAC 지역 일부 라우터 대상 GearUP 콘솔 부스터 번들 공개 1 네트워크 Wormhole 626 07-02
1	AMD Ryzen AI 300 기반 ACER Swift 노트북 긱벤치 발견 5 노트북 Wormhole 1.3k 07-02
12	엔비디아는 프랑스에서 금지 당할수도 있습니다 32 업계동향 블랙웰 5.7k 07-02
1	RISC-V CPU가 미니 ITX 마더보드에 등장 2 CPU/MB/RAM 블랙웰 1.6k 07-02
8	마이크론은 GDDR7이 게임 성능을 30% 향상시킬 것이라고 말합니다 15 CPU/MB/RAM 블랙웰 2.2k 07-02
3	0패치, 2030년까지 Windows 10용 비공식 보안 패치를 제공 4 소프트웨어 블랙웰 1.1k 07-02
12	세계 최초의 Thunderbolt 5 케이블 출시 12 기타/주변기기 블랙웰 2.9k 07-02
4	ASUS X670E 및 B650용 AGESA 1.2.0.0 베타 BIOS 출시 6 CPU/MB/RAM Wormhole 2.1k 07-02
15	바이오, '세계에서 가장 가벼운 휴대용 모니터' 출시 27 디스플레이 블랙웰 3.4k 07-02
4	중국은 모든 희토류 금속 자원에 대한 국가 소유권을 계획하고 있습니다 4 업계동향 블랙웰 1.7k 07-02
6	삼성전자 노조, 협상 실패..."무노동·무임금 총파업 선언" 14 업계동향 블랙웰 1.9k 07-02
1	'퍼스트무버' 현대차, 7억명 '아세안 시장' 정조준…인니産 '코나EV' 달린다 1 업계동향 블랙웰 318 07-02
6	기가바이트, 컬러풀이 EEC에 인텔/AMD 800 시리즈 메인보드 상표 등록 7 CPU/MB/RAM QM포시포시 982 07-01
23	인텔 15세대 애로우 레이크-S, 링버스를 따라 P코어와 E코어 재배치 예정 39 CPU/MB/RAM Wormhole 5.8k 07-01
7	“TSMC, 내년 설비투자 50조로 확대…강한 2㎚ 수요 대응” 14 업계동향 빌보 948 07-01
35	유튜브, 프리미엄 회원에게 더 많은 혜택 제공, 새로운 요금제 옵션 공개 49 소프트웨어 심심해❤️ 10.7k 07-01
17	인텔 15세대 애로우 레이크 데스크탑 플랫폼 다이어그램 유출: 2개의 CPU 연결 M.2 슬롯 25 CPU/MB/RAM Wormhole 6.6k 07-01
32	삼성 2024년형 OLED 게이밍 모니터, 2분마다 1대씩… 글로벌 판매 2만대 돌파 41 디스플레이 Wormhole 6.2k 07-01
28	국내 웹 검색 시장 점유율 현황 47 업계동향 빌보 6.6k 07-01
2	Sidtek은 Wuhu에 있는 12인치 OLED 마이크로디스플레이 공장에서 시험 생산을 시작합니다. 3 디스플레이 QM이라 446 07-01
7	Obsbot, AI 기반 4K PTZ 웹캠 '타이니 2 라이트' 출시 6 기타/주변기기 QM브로리 530 07-01
18	애플, 2026년 주요 신기능 탑재한 에어팟 대량 생산 19 음향기기 QM지름 3.5k 07-01
30	RTX 4080이 899달러(-$300)로 하락: RTX 4070 시리즈 GPU가 베스트셀러를 주도 43 그래픽카드 QM지름 9k 07-01
1	Milk-V, PCIe 2.0 연결 기능을 갖춘 독특한 RISC-V 기반 Mini-ITX 마더보드 출시 1 CPU/MB/RAM QM달려 692 07-01
11	ONDA, 올화이트 미니-ITX AM5 마더보드 B650PLUS-ITX-W를 단 85달러에 출시 14 CPU/MB/RAM QM달려 1.4k 07-01
38	GPU가 아닌 모니터를 업그레이드하세요 78 디스플레이 QM달려 17.5k 07-01
5	최신 Windows 업데이트로 인해 재부팅 루프에 빠졌을때 임시 해결책 4 소프트웨어 QM달려 1.9k 07-01
6	AI로 설계된 10,000달러짜리 쿨러, Core i9-14900KF를 7.5GHz에서 시원하게 유지 16 쿨링솔루션 QM달려 10.8k 07-01
3	AMD 인스팅트 MI300X AI, GEMM 튜닝을 통해 처리량 성능 및 지연 시간이 7배 향상 5 그래픽카드 블랙웰 961 07-01