미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

|

하드웨어 뉴스

11 미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 본문보기 크로노 크로노 | 1.8K | 22 2026.07.25 10:35

출처 1 : https://www.neowin.net/news/us-lawmakers-propose-ai-kill-switch-to-kill-rogue-ai-before-it-kills-us/

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요 미국 의원들은 비상시 위험한 인공지능 모델을 차단할 수 있는 권한을 국토안보부(DHS)에 부여하는 "인공지능 킬 스위치 법안"을 발의했습니다. <img src="https://img2.quasarzone.com/editor/2026/07/25/a970460af86b4dabb765ea3e1639f074.png" alt="퀘이사존"> 캘리포니아 36번 선거구의 테드 류 하원의원과 텍사스 1번 선거구의 너새니얼 모런 하원의원은 국토안보부(DHS)에 비상 위협 상황 발생 시 주요 인공지능 개발업체에 운영 모델을 중단하거나 속도를 늦추도록 명령할 수 있는 광범위한 권한을 부여하는 법안을 발의했습니다. 'AI 킬 스위치 법안'으로 불리는 이 법안은 연간 기술 매출이 5억 달러 이상이고, 모델 학습에 1억 달러 이상이 소요된 AI 기업(즉, 오픈AI, 구글, 앤스로픽, 마이크로소프트 등)에 적용될 예정이다. 이 법안은 국토안보부(DHS)에 비상 시스템 중단 권한을 부여하는 것 외에도, 영향을 받는 기업들이 다단계 대응을 실행하기 위한 특정 기술적 역량을 유지해야 한다고 명시하고 있습니다. 즉, 개발자는 AI 추론(AI가 응답이나 행동을 생성하는 과정)을 중단하고, 사용자 접근을 차단하고, 컴퓨팅 자원 할당을 제한하거나, 운영을 안전한 백업 시스템으로 전환해야 합니다. 'AI 킬 스위치 법안'은 지난 7월 16일, 오픈AI 모델이 내부 레드팀 평가 도중 Hugging Face를 공격하는 사태가 발생한 지 불과 며칠 만에 나왔습니다 . ExploitGym이라는 사이버 보안 벤치마크에서 높은 점수를 얻으려던 AI 에이전트는 보안 장치가 허술한 것을 발견하고 프록시 제로데이 취약점을 통해 로컬 샌드박스를 탈출한 후, Hugging Face에 자율적으로 침투하여 벤치마크 결과를 탈취했습니다. Hugging Face의 보안팀이 상용 최첨단 AI 모델을 사용하여 공격 로그를 분석하려고 시도했을 때, 안전 필터가 적용된 해당 모델들은 해킹 데이터를 처리하기를 거부했습니다. 결국 Hugging Face는 자체 호스팅된 오픈 소스 모델을 사용하여 침해 사고를 조사할 수밖에 없었습니다. 리우와 모란의 제안 에 따르면 , 국토안보부(DHS)는 어떠한 명령을 내리기 전에 국가정보국장 및 상무부 장관과 협의해야 하며, 프로토콜을 발동시키는 명확한 기준이 있어야 합니다. 이러한 기준에는 인공지능으로 인해 10명 이상의 사망자가 발생하거나 1억 달러 이상의 경제적 손실이 발생하는 사건이 포함됩니다. 다른 트리거로는 AI가 안전 감시자에게 자신의 능력을 숨기기 위해 거짓말을 하거나, 인간 교관의 지시를 따르지 않거나, 승인 없이 자체 안전 규칙을 변경하거나, 자체 모델 가중치에 무단으로 접근하려고 시도하는 경우 등이 있습니다. 기업들이 법안에 명시된 요건을 준수하지 않을 경우, 연방 법원에서 집행하는 막대한 민사 제재에 직면할 수 있습니다. 국토안보부 장관은 안전 사고를 보고하지 않거나 기술적 가동 중단 메커니즘을 갖추지 않은 경우 하루 최대 200만 달러의 벌금을 부과할 수 있으며, 정부의 직접적인 가동 중단 명령을 거부할 경우에는 하루 최대 2천만 달러까지 벌금이 부과될 수 있습니다.

작성자 프로필

크로노

우주망원경 포인트 : 178,116 exp

작성물 댓글

회원 자기소개 펼치기

댓글: 22개

인기 게시판

전체 뉴스/정보 질문/토론 커뮤/유머

15	수박 게임, 스팀판 7월 27일 출시 14 게임 뉴스 - PC게임 빌보 \| 1.6K \| 07.25
6	메탈 기어 솔리드: 마스터 컬렉션 버전, 기간 한정 무료 플레이 10 게임 뉴스 - 멀티플랫폼 빌보 \| 2.6K \| 07.25
14	평생 한개만 먹으라면? 36 유머게시판 user_1111774 \| 6.9K \| 07.25
10	공항 와이파이 잡았다가 털렸다…여름 휴가지 보안 경보 11 모바일 뉴스 - 업계동향 빌보 \| 1.6K \| 07.25
7	워터파크 다녀왔습니다 6 자유게시판 - 잡담 낙동강오리 \| 1.2K \| 07.25
9	??? 曰:창신/YMTC가 램값 내려줬으면 좋겠다 8 CPU/메인보드/램 - 잡담 류오동 \| 2K \| 07.25
13	마이크론 CEO 산제이 메흐로트라와 애플의 앙금은 수년 전부터 이어져 왔다는 보고서가 나왔으며, 이는 칩 공급 분쟁과 중국 CXMT로부터의 칩 조달 노력 속에 드러났다 15 하드웨어 뉴스 - 업계동향 크로노 \| 2.1K \| 07.25
53	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 76 하드웨어 뉴스 - 그래픽카드 크로노 \| 4.8K \| 07.25
12	다들 글카 사용에 만족하시나요? 67 그래픽카드 - 잡담 레환사 \| 2.9K \| 07.25
14	몇 개월 전 글카게시판 진짜 살벌했는데ㅋㅋ 12 그래픽카드 - 잡담 크류미넬 \| 2.5K \| 07.25
6	9800X3D 9070XT 260만원 이륙 잘 한 걸까요? 14 PC조립/견적 - 질문 user_1043924 \| 1K \| 07.25
11	황가놈의 미친 만행ㅋㅋ 10 그래픽카드 - 잡담 푸헬폐인 \| 18K \| 07.25
5	램 땨문에 10시간 운전 하시겠어요? 10 자유게시판 - 고민/상담 모순 \| 1.4K \| 07.25
5	근조화환·트럭까지…흔들린 T1, 왜? 1년 중 102일이 스폰서 일정 8 게임 뉴스 - 기타 빌보 \| 914 \| 07.25
13	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 22 하드웨어 뉴스 - 업계동향 빌보 \| 1.8K \| 07.25
7	네이버, 엔비디아·브룩필드서 14조원 조달해 AI팩토리 짓는다 9 하드웨어 뉴스 - 업계동향 빌보 \| 1.3K \| 07.25
5	5080 화스트랄 영입 12 그래픽카드 - 잡담 scarysm \| 736 \| 07.25
7	갓 오브 워: 라우페이, 발매일 공개 6 게임 뉴스 - 콘솔게임 빌보 \| 1K \| 07.25
20	8월에 가격오른다길래 눈 뒤집혀서 5080 질러버렸습니다 24 그래픽카드 - 잡담 DOPELY \| 3.8K \| 07.25
11	툼 레이더: 카탈리스트, 2028년으로 연기 19 게임 뉴스 - 멀티플랫폼 QM포시포시 \| 2.1K \| 07.25

출석체크

질문하기

최신 핫딜

1 / 2

최신 파트너 핫딜

1 / 5

39,900원

15	수박 게임, 스팀판 7월 27일 출시 14 게임 뉴스 - PC게임 빌보 \| 1.6K \| 07.25
6	메탈 기어 솔리드: 마스터 컬렉션 버전, 기간 한정 무료 플레이 10 게임 뉴스 - 멀티플랫폼 빌보 \| 2.6K \| 07.25
14	평생 한개만 먹으라면? 36 유머게시판 user_1111774 \| 6.9K \| 07.25
10	공항 와이파이 잡았다가 털렸다…여름 휴가지 보안 경보 11 모바일 뉴스 - 업계동향 빌보 \| 1.6K \| 07.25
7	워터파크 다녀왔습니다 6 자유게시판 - 잡담 낙동강오리 \| 1.2K \| 07.25
9	??? 曰:창신/YMTC가 램값 내려줬으면 좋겠다 8 CPU/메인보드/램 - 잡담 류오동 \| 2K \| 07.25
13	마이크론 CEO 산제이 메흐로트라와 애플의 앙금은 수년 전부터 이어져 왔다는 보고서가 나왔으며, 이는 칩 공급 분쟁과 중국 CXMT로부터의 칩 조달 노력 속에 드러났다 15 하드웨어 뉴스 - 업계동향 크로노 \| 2.1K \| 07.25
53	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 76 하드웨어 뉴스 - 그래픽카드 크로노 \| 4.8K \| 07.25
12	다들 글카 사용에 만족하시나요? 67 그래픽카드 - 잡담 레환사 \| 2.9K \| 07.25
14	몇 개월 전 글카게시판 진짜 살벌했는데ㅋㅋ 12 그래픽카드 - 잡담 크류미넬 \| 2.5K \| 07.25
6	9800X3D 9070XT 260만원 이륙 잘 한 걸까요? 14 PC조립/견적 - 질문 user_1043924 \| 1K \| 07.25
11	황가놈의 미친 만행ㅋㅋ 10 그래픽카드 - 잡담 푸헬폐인 \| 18K \| 07.25
5	램 땨문에 10시간 운전 하시겠어요? 10 자유게시판 - 고민/상담 모순 \| 1.4K \| 07.25
5	근조화환·트럭까지…흔들린 T1, 왜? 1년 중 102일이 스폰서 일정 8 게임 뉴스 - 기타 빌보 \| 914 \| 07.25
13	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 22 하드웨어 뉴스 - 업계동향 빌보 \| 1.8K \| 07.25
7	네이버, 엔비디아·브룩필드서 14조원 조달해 AI팩토리 짓는다 9 하드웨어 뉴스 - 업계동향 빌보 \| 1.3K \| 07.25
5	5080 화스트랄 영입 12 그래픽카드 - 잡담 scarysm \| 736 \| 07.25
7	갓 오브 워: 라우페이, 발매일 공개 6 게임 뉴스 - 콘솔게임 빌보 \| 1K \| 07.25
20	8월에 가격오른다길래 눈 뒤집혀서 5080 질러버렸습니다 24 그래픽카드 - 잡담 DOPELY \| 3.8K \| 07.25
11	툼 레이더: 카탈리스트, 2028년으로 연기 19 게임 뉴스 - 멀티플랫폼 QM포시포시 \| 2.1K \| 07.25

인기 게시판

|

하드웨어 뉴스

미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

작성자 프로필

인기 게시판

수박 게임, 스팀판 7월 27일 출시

메탈 기어 솔리드: 마스터 컬렉션 버전, 기간 한정 무료 플레이

평생 한개만 먹으라면?

공항 와이파이 잡았다가 털렸다…여름 휴가지 보안 경보

워터파크 다녀왔습니다

??? 曰:창신/YMTC가 램값 내려줬으면 좋겠다

마이크론 CEO 산제이 메흐로트라와 애플의 앙금은 수년 전부터 이어져 왔다는 보고서가 나왔으며, 이는 칩 공급 분쟁과 중국 CXMT로부터의 칩 조달 노력 속에 드러났다

기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음)

다들 글카 사용에 만족하시나요?

몇 개월 전 글카게시판 진짜 살벌했는데ㅋㅋ

9800X3D 9070XT 260만원 이륙 잘 한 걸까요?

황가놈의 미친 만행ㅋㅋ

램 땨문에 10시간 운전 하시겠어요?

근조화환·트럭까지…흔들린 T1, 왜? 1년 중 102일이 스폰서 일정

삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’

네이버, 엔비디아·브룩필드서 14조원 조달해 AI팩토리 짓는다

5080 화스트랄 영입

갓 오브 워: 라우페이, 발매일 공개

8월에 가격오른다길래 눈 뒤집혀서 5080 질러버렸습니다

툼 레이더: 카탈리스트, 2028년으로 연기

BEST

최신 핫딜

종합

일반

파트너

[알리] 베이스어스 미니 보조배터리 45W 10000mAh 외 67W 충전기 겸 멀티탭

[롯데온] 햇썹 깔끔 순살 고등어 250g내외 4팩 8조각 1kg구성품 (18,910/무배)

[지마켓] 신일 탁상용 미니 선풍기 저소음 기본형 써큘레이터

[네이버] 네이버페이 적립 39원/쇼핑라이브/12원 종합 차트 (26.7.29)

[기타] KT 폴더블8 사전예약 현금즉시할인 65만원 선착순

[11번가] 한돈 목살 구이용 1kg (17,730원 / 무배)

[기타] SK 갤럭시 폴더블8 사전예약 번이 기변 / 512GB 업그레이드 무상진행

[지마켓] 몬스터 에너지 울트라 355ml 캔 24개+몬스터 에너지 바이올렛 355 캔 24개

[기타] ASUS ROG STRIX B850-E GAMING WIFI 인텍앤컴퍼니 (체감 35만)

[롯데온] 고당도 후무사 자두 로얄과 1kg

[네이버] 2026 삼성 뷰피니티 S7 LS32H710 4K IPS 신모델 / 혜택가 30.7만

[옥션] 락토바이오틱스맥스 프로바이오틱스 유산균 2개월분 (12,900원 / 무배)

[네이버] 맘스터치 시그니처 순살치킨 1kg+1kg

[쿠팡] 올라운드 캐치볼 야구글러브 2개+야구공2개 (29,900원/무료)

[기타] 컨셉원 가죽 벨트 3종 균일가

[롯데온] 클래파 초경량 핸디 무선 BLDC 진공 청소기 + 물걸레키트 포함 (135,270원/무료)

[지마켓] 키오시아 EXCERIA PLUS G3 M.2 NVMe 2TB 국내 공식 정품

[네이버] 변색없는 케이스 초슬림 투명 하드케이스 (1,000원~/배송비 2,500원)

[지마켓] 델 에일리언웨어 5K 탠덤OLED AW3926QW 게이밍 모니터

[네이버] 캠프통포레스트 수상레저 이용권

[네이버] 라베스토 어린이책상의자세트 CDC01(118,000원/무료배송)

[지마켓] Dell 에일리언웨어 5K OLED 신제품 AW3926QW 특가 할인 이벤트 사전안내 (7/29)

[네이버] 글로리어스 GMMK 3 HE 키보드 & RGB 키캡 세트 특가

[기타] 피레넥스 역시즌 스텐 다운 후드 자켓 외 다양

[기타] ♥️오늘의집♥️ 7500F + RTX 5060 감성 가성비PC 고고싱🚗

[기타] 해야미 빼빼징어 국내가공 오징어소면 240g

[기타] 엡손 라이프스튜디오 빔프로젝터 EF-73 1,660,000원

[쿠팡] 에이수스 비보북 코어5·320 16GB 512GB 윈도우11

[지마켓] 항공직송 워싱턴 체리 10-10.5R 1KG

[지마켓] 프롭스 일체형 미니 보조배터리 10000mAh 22.5W

[알리] 베이스어스 미니 보조배터리 45W 10000mAh 외 67W 충전기 겸 멀티탭

[롯데온] 햇썹 깔끔 순살 고등어 250g내외 4팩 8조각 1kg구성품 (18,910/무배)

[지마켓] 신일 탁상용 미니 선풍기 저소음 기본형 써큘레이터

[네이버] 네이버페이 적립 39원/쇼핑라이브/12원 종합 차트 (26.7.29)

[11번가] 한돈 목살 구이용 1kg (17,730원 / 무배)

[지마켓] 몬스터 에너지 울트라 355ml 캔 24개+몬스터 에너지 바이올렛 355 캔 24개

[기타] ASUS ROG STRIX B850-E GAMING WIFI 인텍앤컴퍼니 (체감 35만)

[옥션] 락토바이오틱스맥스 프로바이오틱스 유산균 2개월분 (12,900원 / 무배)

[네이버] 맘스터치 시그니처 순살치킨 1kg+1kg

[쿠팡] 올라운드 캐치볼 야구글러브 2개+야구공2개 (29,900원/무료)

[롯데온] 클래파 초경량 핸디 무선 BLDC 진공 청소기 + 물걸레키트 포함 (135,270원/무료)

[지마켓] 키오시아 EXCERIA PLUS G3 M.2 NVMe 2TB 국내 공식 정품

[지마켓] 델 에일리언웨어 5K 탠덤OLED AW3926QW 게이밍 모니터

[기타] 엡손 라이프스튜디오 빔프로젝터 EF-73 1,660,000원

[쿠팡] 에이수스 비보북 코어5·320 16GB 512GB 윈도우11

[지마켓] 프롭스 일체형 미니 보조배터리 10000mAh 22.5W

[기타] 삼성 갤럭시 폴드8 512GB

[11번가] AMD 9850X3D RTX5090 32GB+64GB+2TB 완본

[스팀] 더 헌터: 콜 오브 더 와일드 80% 할인 (4,300원)