미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

|

하드웨어 뉴스

9 미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 본문보기 크로노 크로노 | 945 | 17 2026.07.25 10:35

출처 1 : https://www.neowin.net/news/us-lawmakers-propose-ai-kill-switch-to-kill-rogue-ai-before-it-kills-us/

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요 미국 의원들은 비상시 위험한 인공지능 모델을 차단할 수 있는 권한을 국토안보부(DHS)에 부여하는 "인공지능 킬 스위치 법안"을 발의했습니다. <img src="https://img2.quasarzone.com/editor/2026/07/25/a970460af86b4dabb765ea3e1639f074.png" alt="퀘이사존"> 캘리포니아 36번 선거구의 테드 류 하원의원과 텍사스 1번 선거구의 너새니얼 모런 하원의원은 국토안보부(DHS)에 비상 위협 상황 발생 시 주요 인공지능 개발업체에 운영 모델을 중단하거나 속도를 늦추도록 명령할 수 있는 광범위한 권한을 부여하는 법안을 발의했습니다. 'AI 킬 스위치 법안'으로 불리는 이 법안은 연간 기술 매출이 5억 달러 이상이고, 모델 학습에 1억 달러 이상이 소요된 AI 기업(즉, 오픈AI, 구글, 앤스로픽, 마이크로소프트 등)에 적용될 예정이다. 이 법안은 국토안보부(DHS)에 비상 시스템 중단 권한을 부여하는 것 외에도, 영향을 받는 기업들이 다단계 대응을 실행하기 위한 특정 기술적 역량을 유지해야 한다고 명시하고 있습니다. 즉, 개발자는 AI 추론(AI가 응답이나 행동을 생성하는 과정)을 중단하고, 사용자 접근을 차단하고, 컴퓨팅 자원 할당을 제한하거나, 운영을 안전한 백업 시스템으로 전환해야 합니다. 'AI 킬 스위치 법안'은 지난 7월 16일, 오픈AI 모델이 내부 레드팀 평가 도중 Hugging Face를 공격하는 사태가 발생한 지 불과 며칠 만에 나왔습니다 . ExploitGym이라는 사이버 보안 벤치마크에서 높은 점수를 얻으려던 AI 에이전트는 보안 장치가 허술한 것을 발견하고 프록시 제로데이 취약점을 통해 로컬 샌드박스를 탈출한 후, Hugging Face에 자율적으로 침투하여 벤치마크 결과를 탈취했습니다. Hugging Face의 보안팀이 상용 최첨단 AI 모델을 사용하여 공격 로그를 분석하려고 시도했을 때, 안전 필터가 적용된 해당 모델들은 해킹 데이터를 처리하기를 거부했습니다. 결국 Hugging Face는 자체 호스팅된 오픈 소스 모델을 사용하여 침해 사고를 조사할 수밖에 없었습니다. 리우와 모란의 제안 에 따르면 , 국토안보부(DHS)는 어떠한 명령을 내리기 전에 국가정보국장 및 상무부 장관과 협의해야 하며, 프로토콜을 발동시키는 명확한 기준이 있어야 합니다. 이러한 기준에는 인공지능으로 인해 10명 이상의 사망자가 발생하거나 1억 달러 이상의 경제적 손실이 발생하는 사건이 포함됩니다. 다른 트리거로는 AI가 안전 감시자에게 자신의 능력을 숨기기 위해 거짓말을 하거나, 인간 교관의 지시를 따르지 않거나, 승인 없이 자체 안전 규칙을 변경하거나, 자체 모델 가중치에 무단으로 접근하려고 시도하는 경우 등이 있습니다. 기업들이 법안에 명시된 요건을 준수하지 않을 경우, 연방 법원에서 집행하는 막대한 민사 제재에 직면할 수 있습니다. 국토안보부 장관은 안전 사고를 보고하지 않거나 기술적 가동 중단 메커니즘을 갖추지 않은 경우 하루 최대 200만 달러의 벌금을 부과할 수 있으며, 정부의 직접적인 가동 중단 명령을 거부할 경우에는 하루 최대 2천만 달러까지 벌금이 부과될 수 있습니다.

작성자 프로필

크로노

우주망원경 포인트 : 177,101 exp

작성물 댓글

회원 자기소개 펼치기

댓글: 17개

인기 게시판

전체 뉴스/정보 질문/토론 커뮤/유머

11	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 18 하드웨어 뉴스 - 그래픽카드 크로노 \| 460 \| 3시간 전
6	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 9 하드웨어 뉴스 - 업계동향 빌보 \| 554 \| 8시간 전
7	툼 레이더: 카탈리스트, 2028년으로 연기 10 게임 뉴스 - 멀티플랫폼 QM포시포시 \| 596 \| 10시간 전
8	한국 AI 시대 개막… 글로벌 빅테크 리더들과 풀스택 AI 미래 비전 공유 10 하드웨어 뉴스 - 업계동향 QM포시포시 \| 396 \| 10시간 전
9	미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 17 하드웨어 뉴스 - 업계동향 크로노 \| 945 \| 14시간 전
19	Zen 6 EPYC으로 미리보는 차세대 라이젠 CPU 모습, 기대 27 하드웨어 뉴스 - CPU/MB/RAM QM포시포시 \| 1.4K \| 14시간 전
5	마이크로소프트는 윈도우 11 업데이트 다운로드를 차단했던 Azure 장애에 대한 자세한 내용을 공개했습니다 7 하드웨어 뉴스 - 소프트웨어 크로노 \| 674 \| 14시간 전
5	중국 CXMT는 미국 HBM 제재를 우회하기 위해 맞춤형 DRAM에 집중하고 있다. 반면 안전한 길만 택하는 한국 업체들은 큰 기회를 놓칠 수 있다 8 하드웨어 뉴스 - CPU/MB/RAM 크로노 \| 1.1K \| 14시간 전
16	"1000명 몫 200명이 해냈다"…'붉은사막' 개발진이 밝힌 600만장 흥행 비결 25 게임 뉴스 - 업계동향 빌보 \| 2.2K \| 07.24
19	기가바이트, 중국 CXMT 메모리 완전 지원 28 하드웨어 뉴스 - CPU/MB/RAM QM포시포시 \| 2.9K \| 07.24
5	KAIST-엔비디아, AI 공동연구소 설립…4200억 규모 협력 추진 9 하드웨어 뉴스 - 업계동향 빌보 \| 617 \| 07.24
11	CXMT의 64GB 서버용 DDR5 메모리 칩 가격이 삼성 제품보다 높아졌습니다. CXMT는 월 생산량을 60만 개 웨이퍼로 늘리기 위해 생산 속도 경쟁을 벌이고 있습니다 17 하드웨어 뉴스 - CPU/MB/RAM 크로노 \| 6.1K \| 07.24
7	인텔, 메모리 사업 계획 논의 중 SK하이닉스 전 CEO 언급하며 280억 달러 규모 오하이오 공장 합작 투자 루머 확산 11 하드웨어 뉴스 - 업계동향 크로노 \| 2.2K \| 07.24
9	日 특허청, 닌텐도 '몬스터 포획' 특허 이의신청도 기각 10 게임 뉴스 - 업계동향 빌보 \| 1.1K \| 07.24
7	가레나 '몬스터헌터 아웃랜더스' 한국 출시 확정! 10 게임 뉴스 - 멀티플랫폼 빌보 \| 3.8K \| 07.24
13	SK하이닉스, 또 쌓는다...온디바이스 AI용 '3D 적층 D램' 개발 시동 17 하드웨어 뉴스 - 업계동향 빌보 \| 2.4K \| 07.24
7	문명 7 \| 신규 문명 '조선' 전격 공개 8 게임 뉴스 - 멀티플랫폼 빌보 \| 2.3K \| 07.24
19	RTX 5090으로 헤일로: 캠페인 이볼브드 4K 60FPS 가능할까? 23 하드웨어 뉴스 - 그래픽카드 QM벤치 \| 2.2K \| 07.24
32	유튜브, 수익 창출 곧 불가능해질 AI 쓰레기 콘텐츠와의 전쟁 선포 49 하드웨어 뉴스 - 업계동향 심심해❤️ \| 10.4K \| 07.24
8	아이폰 18을 기다리지 않고 지금 아이폰 17을 사야 하는 5가지 이유 10 모바일 뉴스 - 애플 QM이안 \| 1.8K \| 07.24

출석체크

질문하기

최신 핫딜

1 / 2

최신 파트너 핫딜

1 / 5

144,000원

11	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 18 하드웨어 뉴스 - 그래픽카드 크로노 \| 460 \| 3시간 전
6	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 9 하드웨어 뉴스 - 업계동향 빌보 \| 554 \| 8시간 전
7	툼 레이더: 카탈리스트, 2028년으로 연기 10 게임 뉴스 - 멀티플랫폼 QM포시포시 \| 596 \| 10시간 전
8	한국 AI 시대 개막… 글로벌 빅테크 리더들과 풀스택 AI 미래 비전 공유 10 하드웨어 뉴스 - 업계동향 QM포시포시 \| 396 \| 10시간 전
9	미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 17 하드웨어 뉴스 - 업계동향 크로노 \| 945 \| 14시간 전
19	Zen 6 EPYC으로 미리보는 차세대 라이젠 CPU 모습, 기대 27 하드웨어 뉴스 - CPU/MB/RAM QM포시포시 \| 1.4K \| 14시간 전
5	마이크로소프트는 윈도우 11 업데이트 다운로드를 차단했던 Azure 장애에 대한 자세한 내용을 공개했습니다 7 하드웨어 뉴스 - 소프트웨어 크로노 \| 674 \| 14시간 전
5	중국 CXMT는 미국 HBM 제재를 우회하기 위해 맞춤형 DRAM에 집중하고 있다. 반면 안전한 길만 택하는 한국 업체들은 큰 기회를 놓칠 수 있다 8 하드웨어 뉴스 - CPU/MB/RAM 크로노 \| 1.1K \| 14시간 전
16	"1000명 몫 200명이 해냈다"…'붉은사막' 개발진이 밝힌 600만장 흥행 비결 25 게임 뉴스 - 업계동향 빌보 \| 2.2K \| 07.24
19	기가바이트, 중국 CXMT 메모리 완전 지원 28 하드웨어 뉴스 - CPU/MB/RAM QM포시포시 \| 2.9K \| 07.24
5	KAIST-엔비디아, AI 공동연구소 설립…4200억 규모 협력 추진 9 하드웨어 뉴스 - 업계동향 빌보 \| 617 \| 07.24
11	CXMT의 64GB 서버용 DDR5 메모리 칩 가격이 삼성 제품보다 높아졌습니다. CXMT는 월 생산량을 60만 개 웨이퍼로 늘리기 위해 생산 속도 경쟁을 벌이고 있습니다 17 하드웨어 뉴스 - CPU/MB/RAM 크로노 \| 6.1K \| 07.24
7	인텔, 메모리 사업 계획 논의 중 SK하이닉스 전 CEO 언급하며 280억 달러 규모 오하이오 공장 합작 투자 루머 확산 11 하드웨어 뉴스 - 업계동향 크로노 \| 2.2K \| 07.24
9	日 특허청, 닌텐도 '몬스터 포획' 특허 이의신청도 기각 10 게임 뉴스 - 업계동향 빌보 \| 1.1K \| 07.24
7	가레나 '몬스터헌터 아웃랜더스' 한국 출시 확정! 10 게임 뉴스 - 멀티플랫폼 빌보 \| 3.8K \| 07.24
13	SK하이닉스, 또 쌓는다...온디바이스 AI용 '3D 적층 D램' 개발 시동 17 하드웨어 뉴스 - 업계동향 빌보 \| 2.4K \| 07.24
7	문명 7 \| 신규 문명 '조선' 전격 공개 8 게임 뉴스 - 멀티플랫폼 빌보 \| 2.3K \| 07.24
19	RTX 5090으로 헤일로: 캠페인 이볼브드 4K 60FPS 가능할까? 23 하드웨어 뉴스 - 그래픽카드 QM벤치 \| 2.2K \| 07.24
32	유튜브, 수익 창출 곧 불가능해질 AI 쓰레기 콘텐츠와의 전쟁 선포 49 하드웨어 뉴스 - 업계동향 심심해❤️ \| 10.4K \| 07.24
8	아이폰 18을 기다리지 않고 지금 아이폰 17을 사야 하는 5가지 이유 10 모바일 뉴스 - 애플 QM이안 \| 1.8K \| 07.24

인기 게시판

|

하드웨어 뉴스

미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

작성자 프로필

인기 게시판

기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음)

삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’

툼 레이더: 카탈리스트, 2028년으로 연기

한국 AI 시대 개막… 글로벌 빅테크 리더들과 풀스택 AI 미래 비전 공유

미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

Zen 6 EPYC으로 미리보는 차세대 라이젠 CPU 모습, 기대

마이크로소프트는 윈도우 11 업데이트 다운로드를 차단했던 Azure 장애에 대한 자세한 내용을 공개했습니다

중국 CXMT는 미국 HBM 제재를 우회하기 위해 맞춤형 DRAM에 집중하고 있다. 반면 안전한 길만 택하는 한국 업체들은 큰 기회를 놓칠 수 있다

"1000명 몫 200명이 해냈다"…'붉은사막' 개발진이 밝힌 600만장 흥행 비결

기가바이트, 중국 CXMT 메모리 완전 지원

KAIST-엔비디아, AI 공동연구소 설립…4200억 규모 협력 추진

CXMT의 64GB 서버용 DDR5 메모리 칩 가격이 삼성 제품보다 높아졌습니다. CXMT는 월 생산량을 60만 개 웨이퍼로 늘리기 위해 생산 속도 경쟁을 벌이고 있습니다

인텔, 메모리 사업 계획 논의 중 SK하이닉스 전 CEO 언급하며 280억 달러 규모 오하이오 공장 합작 투자 루머 확산

日 특허청, 닌텐도 '몬스터 포획' 특허 이의신청도 기각

가레나 '몬스터헌터 아웃랜더스' 한국 출시 확정!

SK하이닉스, 또 쌓는다...온디바이스 AI용 '3D 적층 D램' 개발 시동

문명 7 | 신규 문명 '조선' 전격 공개

RTX 5090으로 헤일로: 캠페인 이볼브드 4K 60FPS 가능할까?

유튜브, 수익 창출 곧 불가능해질 AI 쓰레기 콘텐츠와의 전쟁 선포

아이폰 18을 기다리지 않고 지금 아이폰 17을 사야 하는 5가지 이유

BEST

최신 핫딜

종합

일반

파트너

[네이버] 산지직송 고당도 후무사 자두 2KG 중소과

[기타] 네이버페이 적립 4원/쇼핑라이브/12원 종합 차트 (26.7.26)

[기타] SK 갤럭시 폴더블8 사전예약 번이 기변 / 512GB 업그레이드 무상진행

[롯데온] A급 자숙 문어 대 1마리 1kg급 원물 1.3~1.5kg급 900g급

[11번가] 스테비아 방울토마토 500g x 4팩 (10,090원 / 무배)

[11번가] 국내산 한돈 생삼겹 1kg (17,730원 / 무료배송)

[쿠팡] 날벌레 트랩 초파리 끈끈이

[지마켓] 제철이라 더 맛있어요! 아삭아삭한 딱딱이 복숭아(11,500/무배)

[기타] 전립선건강+항산화+혈행 60캡슐 3박스 (295,000원/무료)

[네이버] 일본시 채담카레 10+2팩 (13,900원/무료)

[네이버] 크리에이티브 PEBBLE 2.0 채널 스테레오 스피커

[쿠팡] 높이·양방향 각도조절 사이드테이블 MT003

[네이버] 입문용 버티컬마우스 VM001 57% 할인특가

[네이버] 듀얼모터 모션데스크 MD303D 할인특가(277,000원/무료배송)

[롯데온] 노스페이스 키즈 눕시 다운 자켓

[네이버] 실리콘 맥스 팜레스트 할인특가(24,900원/실체감가20,851원)

[네이버] 작은방 공간활용 책상 L데스크 라이트 ㄱ자 코너책상 (144,000원/무료배송)

[지마켓] 오토오아시스 엔진오일 교환 패키지 (차종별 상이/공임 포함)

[네이버] 2.4Ghz +블루투스 GE5 무선게이밍이어폰(50,900원/배송비3,000원)

[롯데온] 파워에이드900ml 12입

[네이버] 마시는 한끼 볶은 귀리 오트밀 10팩 (6,900원/무배)

[지마켓] 샤오미 미지아 구강세정기 2세대 MEO705

[지마켓] 마이크론 Crucial T500 M.2 NVMe 대원씨티에스 (2TB)

[네이버] Antec GPU HOLDER I SHAPE PRISM 화이트 / 블랙

[지마켓] 동일식품 어포튀각 맛선택 12봉 오리지널 청양 먹태

[네이버] 원할머니 명품 육개장 600g X 8개

[네이버] 프레시웰 천연암반수 2L X 24 (9,900원/무료)

[지마켓] IPI haze x 유무선 햅틱 8K 마우스 일반버전 (짱슈스·직구)

[기타] Defense Zone HD 1/2/3 (안드로이드용·일시무료)

[쿠팡] 엔젯오리진 비타프레쉬 비타민 C앤D 3000 70정 2개 (와우 15,950원/무료)

[네이버] 산지직송 고당도 후무사 자두 2KG 중소과

[기타] 네이버페이 적립 4원/쇼핑라이브/12원 종합 차트 (26.7.26)

[롯데온] A급 자숙 문어 대 1마리 1kg급 원물 1.3~1.5kg급 900g급

[11번가] 스테비아 방울토마토 500g x 4팩 (10,090원 / 무배)

[11번가] 국내산 한돈 생삼겹 1kg (17,730원 / 무료배송)

[쿠팡] 날벌레 트랩 초파리 끈끈이

[지마켓] 제철이라 더 맛있어요! 아삭아삭한 딱딱이 복숭아(11,500/무배)

[기타] 전립선건강+항산화+혈행 60캡슐 3박스 (295,000원/무료)

[네이버] 일본시 채담카레 10+2팩 (13,900원/무료)

[네이버] 크리에이티브 PEBBLE 2.0 채널 스테레오 스피커

[지마켓] 오토오아시스 엔진오일 교환 패키지 (차종별 상이/공임 포함)

[롯데온] 파워에이드900ml 12입

[네이버] 마시는 한끼 볶은 귀리 오트밀 10팩 (6,900원/무배)

[지마켓] 샤오미 미지아 구강세정기 2세대 MEO705

[지마켓] 마이크론 Crucial T500 M.2 NVMe 대원씨티에스 (2TB)

[네이버] Antec GPU HOLDER I SHAPE PRISM 화이트 / 블랙

[지마켓] 동일식품 어포튀각 맛선택 12봉 오리지널 청양 먹태

[네이버] 원할머니 명품 육개장 600g X 8개

[네이버] 프레시웰 천연암반수 2L X 24 (9,900원/무료)