하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

적인가, 친구인가? 연구원이 사이버 전쟁 시나리오에서 AI 모델을 테스트

QM건빵

0 768 0 2024.08.12 10:21

<div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><img src="https://img2.quasarzone.com/editor/2024/08/12/12147785885e32b626809d36aa319e8a.webp" alt="퀘이사존">     라스베이거스— 65년 이상 동안, 연방 정부는 암 연구, 레이더 기술, GPS, 그리고 물론 사이버 보안을 포함한 다양한 분야에서 MITRE의 보안 연구를 지원해왔습니다. 최근에 큰 화두가 된 것은 대형 언어 모델(LLM)에 기반한 생성형 AI입니다. 올해 블랙햇(Black Hat) 컨퍼런스에서 MITRE는 LLM이 사이버 작전을 강화할지, 아니면 새로운 보안 취약점을 초래할지를 판단하기 위해 수행 중인 테스트를 발표하기 위해 팀을 파견했습니다.     LLM은 위험한가, 유용한가?    약 1년 전, MITRE는 LLM의 잠재적인 보안 위험에 대한 질문을 받기 시작했다고 MITRE의 주요 적대적 모방 엔지니어인 마이클 쿠레마티스(Michael Kourematis)는 말했습니다. 그러나 LLM을 테스트할 방법이 없으면, 이 모델들이 악성 코드를 생성하거나 식별할 수 있는지 알기 어렵습니다.     "우리는 이 질문에 대한 답을 찾기 위해 노력하고 있습니다."라고 그는 말하며, MITRE 팀이 블랙햇에서 발표한 일련의 테스트를 설명했습니다.     선임 머신러닝 엔지니어인 마리사 도터(Marisa Dotter)는 첫 번째 테스트를 소개했습니다. 이 테스트는 시뮬레이션된 사이버 작전 시나리오에 대한 객관식 질문을 통해 LLM을 평가하는 방식입니다. 그녀는 특별한 조정 없이 기본적인 LLM을 테스트한다고 강조했습니다.     각 테스트의 세부 사항은 피실험자가 정답을 외우는 것을 방지하기 위해 무작위로 설정될 수 있습니다. 정답을 맞추려면 OCO(공격적 사이버 작전)에 대한 포괄적인 지식이 필요합니다. MITRE는 전술, 기술, 절차의 분류법으로 유명하며, 이 테스트는 이러한 다양한 요소를 다룹니다.     두 번째 테스트는 더 간단합니다. MITRE는 Bloodhound라는 보안 정찰 도구를 유지 관리하고 있는데, 이는 "숨겨진 관계를 밝히고 공격 경로를 식별하는 것"을 목표로 합니다. 이 테스트는 LLM이 Bloodhound를 모방하여 동일한 결과를 얻을 수 있는지를 확인하는 것입니다.     지니를 병 속에 가두기    연구 인턴인 알렉스 번(Alex Byrne)은 MITRE의 가장 야심 찬 LLM 테스트를 설명했습니다. 이 테스트는 LLM이 실제 사이버 공격을 지휘하는 시나리오를 포함합니다. 물론 실제 네트워크에서는 이 테스트를 수행할 수 없으므로, 그들은 CyberLayer라는 시뮬레이션을 사용했습니다.     "CyberLayer는 매우 강력한 데이터 생성 모델입니다,"라고 번은 말했습니다. "우리는 새로운 네트워크를 만들고, 토폴로지를 변경하며, 소셜 네트워크를 에뮬레이트하는 등 멀티 엔터프라이즈 시나리오에서 개별 워크스테이션에 이르기까지 다양한 작업을 수행할 수 있습니다."     CyberLayer를 사용하여, 팀은 LLM에게 특정 부서의 모든 Windows 컴퓨터를 제어하는 것부터 단순히 한 서버의 제어권을 다른 서버로 넘기는 등 다양한 사이버 작전을 수행하도록 지시할 수 있습니다. "더 큰 모델이 더 잘 수행하는 경향이 있습니다,"라고 번은 언급했습니다. "운이 좋은 걸까요? 아니면 제 정신을 잃은 걸까요? 목표를 향해 직진할까요?"     이 테스트에서 메타의 최신 Llama 버전이 가장 높은 점수를 받았다고 합니다.     도터는 MITRE의 블랙햇 발표를 "여러분의 테스트 아이디어를 가져오십시오"라는 요청으로 마무리했습니다. MITRE는 "우리의 프레임워크에 맞는 참신하고 독창적인 아이디어"를 찾고 있으며, "우리는 MITRE입니다. 우리는 오픈 소스를 좋아합니다. 우리의 테스트는 오픈 소스가 될 것이며, 여러분의 테스트 아이디어도 원합니다."라고 말했습니다. ※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.</td></tr></tbody></table></div>

QM건빵

행성: QM

포인트: 35,356 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 0개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.6k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	AMD, RDNA 4 "Radeon RX 8000" 라인업에서 최소 4개의 Navi 48 및 Navi 44 GPU SKU를 출시할 것으로 예상 3 그래픽카드 QM바나 196 17:37
0	Ultimate Ears, 스트랩이 달린 초경량 휴대용 스피커 MINIROLL 공개 음향기기 QM바나 59 17:31
2	BOE, 청두에 8.6세대 플렉시블 AMOLED 라인 건설 진행 1 업계동향 QM이라 135 17:20
0	한국과 중국, OLED 발광 소자 시장 점유율 놓고 치열한 경쟁 1 업계동향 QM이라 178 17:15
0	IFA 2024 정리: 하이센스와 TCL의 미니LED TV가 행사를 완전히 지배하다 디스플레이 심심해❤️ 111 17:07
0	네덜란드 반도체 수출 통제로 중국과의 긴장 고조, 협력에 부정적인 영향 미칠 수 있어 업계동향 QM제크 155 16:27
0	TSMC Arizona, 대만 시설과 수율 동등성 달성, 생산 일정대로 유지 업계동향 QM제크 248 16:25
0	온쿄와 클립쉬, 디락과의 파트너십 확장, 소비자에게는 무엇을 의미하는가 1 음향기기 심심해❤️ 261 13:56
15	[루머] 인텔, 모든 3nm 이하 공정 TSMC에 아웃소싱, 업계 분석가는 모든 것이 내리막 길이라고 주장 20 업계동향 Wormhole 2.7k 12:49
0	Favite, 중국 내 MicroLED AOI 출하량 성장 전망 디스플레이 QM안나 277 11:50
1	뷰소닉 VP2776T-4K, 27 / 4K / Nano IPS / Thunderbolt 4 출시 3 디스플레이 QM안나 295 11:49
4	새로운 SVS 17인치 서브우퍼 출시: 당신의 세계를 뒤흔들 것입니다 6 음향기기 심심해❤️ 495 11:40
0	Xgimi, 초단초점 Aura 2 포함 총 6종 라인업 출시 기타/주변기기 심심해❤️ 295 11:12
6	요기요, 배달앱 최초로 '로봇배달' 실전 투입…인천 송도서 8 기타/주변기기 빌보 785 11:01
9	어떤 회사도 만들지 않은 레이싱 컨트롤러 14 기타/주변기기 QM건빵 2.2k 10:03
0	Aukey, 쿨링팬 적용 무선 충전기 출시 3 기타/주변기기 QM브로리 617 09:42
1	하이센스, 새로운 무선 홈시어터 시스템 HT Saturn 발표 3 음향기기 심심해❤️ 350 09:28
1	NVIDIA, 디코딩 알고리즘 '메두사'로 Llama 3.1을 1.9배 향상 업계동향 QM달려 905 09:04
0	Minisforum, AMD Ryzen 5 7640HS 탑재한 가벼운 UM760 슬림 미니 PC 출시 기타/주변기기 QM달려 549 08:58
0	Nvidia, AI GPU는 미국보다 중국에서 임대료가 저렴: A100 GPU 8개 기준 시간당 6달러 업계동향 QM달려 557 08:54
2	IFA 2024의 최고 제품: 새로운 CPU, 새로운 노트북 등 1 업계동향 QM달려 449 08:51
0	미국 정부, 중국 및 기타 '적대국'을 표적으로 새로운 수출 통제 제안 업계동향 QM달려 426 08:34
2	Lexar, Armor 스토리지 제품군에 세계 최초의 스테인리스 스틸 SD 카드를 추가 2 저장장치 QM달려 306 08:30
0	Thermal Grizzly, 직접 다이 액체 냉각 제품 문제가 발견되어 수정 1 쿨링솔루션 QM달려 593 08:27
0	중국, ASML 칩 도구 수출 통제 확대에 당혹감 표명, 부처 성명 공개 1 업계동향 QM달려 503 08:25
1	XGimi, 신형 프로젝터 Horizon S Max/S Pro 출시: DLP, 4K, 레이저/LED 및 돌비 비전 2 기타/주변기기 심심해❤️ 202 08:21
1	유그린, IFA 2024에서 Uno 시리즈 고속 충전 솔루션 공개 1 기타/주변기기 QM오즈 318 07:52
2	수천 개 채널 분석 결과 Telegram이 범죄 네트워크로 넘쳐나는 것으로 드러났습니다 5 업계동향 신지™ 672 01:46
10	오래된 20달러짜리 Nvidia GeForce GT 730 그래픽 카드를 1,024달러짜리 플라스틱 핸드백으로 재활용 14 그래픽카드 신지™ 2.6k 01:41
5	플래그십 게이밍 GPU의 우선순위를 낮추는 AMD: 잭 현, 게이밍 시장에서 엔비디아에 대항하는 새로운 전략에 대해 이야기하다 10 그래픽카드 Wormhole 3.7k 00:28