하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다

크로노

22 1800 11 2026.07.25 10:35

해외 기사를 번역기로 번역 하였습니다 오역이 있을수 있으니 원문을 참고 하세요 미국 의원들은 비상시 위험한 인공지능 모델을 차단할 수 있는 권한을 국토안보부(DHS)에 부여하는 "인공지능 킬 스위치 법안"을 발의했습니다. <img src="https://img2.quasarzone.com/editor/2026/07/25/a970460af86b4dabb765ea3e1639f074.png" alt="퀘이사존"> 캘리포니아 36번 선거구의 테드 류 하원의원과 텍사스 1번 선거구의 너새니얼 모런 하원의원은 국토안보부(DHS)에 비상 위협 상황 발생 시 주요 인공지능 개발업체에 운영 모델을 중단하거나 속도를 늦추도록 명령할 수 있는 광범위한 권한을 부여하는 법안을 발의했습니다. 'AI 킬 스위치 법안'으로 불리는 이 법안은 연간 기술 매출이 5억 달러 이상이고, 모델 학습에 1억 달러 이상이 소요된 AI 기업(즉, 오픈AI, 구글, 앤스로픽, 마이크로소프트 등)에 적용될 예정이다. 이 법안은 국토안보부(DHS)에 비상 시스템 중단 권한을 부여하는 것 외에도, 영향을 받는 기업들이 다단계 대응을 실행하기 위한 특정 기술적 역량을 유지해야 한다고 명시하고 있습니다. 즉, 개발자는 AI 추론(AI가 응답이나 행동을 생성하는 과정)을 중단하고, 사용자 접근을 차단하고, 컴퓨팅 자원 할당을 제한하거나, 운영을 안전한 백업 시스템으로 전환해야 합니다. 'AI 킬 스위치 법안'은 지난 7월 16일, 오픈AI 모델이 내부 레드팀 평가 도중 Hugging Face를 공격하는 사태가 발생한 지 불과 며칠 만에 나왔습니다 . ExploitGym이라는 사이버 보안 벤치마크에서 높은 점수를 얻으려던 AI 에이전트는 보안 장치가 허술한 것을 발견하고 프록시 제로데이 취약점을 통해 로컬 샌드박스를 탈출한 후, Hugging Face에 자율적으로 침투하여 벤치마크 결과를 탈취했습니다. Hugging Face의 보안팀이 상용 최첨단 AI 모델을 사용하여 공격 로그를 분석하려고 시도했을 때, 안전 필터가 적용된 해당 모델들은 해킹 데이터를 처리하기를 거부했습니다. 결국 Hugging Face는 자체 호스팅된 오픈 소스 모델을 사용하여 침해 사고를 조사할 수밖에 없었습니다. 리우와 모란의 제안 에 따르면 , 국토안보부(DHS)는 어떠한 명령을 내리기 전에 국가정보국장 및 상무부 장관과 협의해야 하며, 프로토콜을 발동시키는 명확한 기준이 있어야 합니다. 이러한 기준에는 인공지능으로 인해 10명 이상의 사망자가 발생하거나 1억 달러 이상의 경제적 손실이 발생하는 사건이 포함됩니다. 다른 트리거로는 AI가 안전 감시자에게 자신의 능력을 숨기기 위해 거짓말을 하거나, 인간 교관의 지시를 따르지 않거나, 승인 없이 자체 안전 규칙을 변경하거나, 자체 모델 가중치에 무단으로 접근하려고 시도하는 경우 등이 있습니다. 기업들이 법안에 명시된 요건을 준수하지 않을 경우, 연방 법원에서 집행하는 막대한 민사 제재에 직면할 수 있습니다. 국토안보부 장관은 안전 사고를 보고하지 않거나 기술적 가동 중단 메커니즘을 갖추지 않은 경우 하루 최대 200만 달러의 벌금을 부과할 수 있으며, 정부의 직접적인 가동 중단 명령을 거부할 경우에는 하루 최대 2천만 달러까지 벌금이 부과될 수 있습니다.

크로노

행성: 우주망원경

포인트: 177,941 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 22개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.6k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
15	중국 CXMT, 상장 동시에 472% 상승...시가총액 1위 등극 29 업계동향 크로노 2.4k 07-27
27	MS, 윈도우 11의 메모리 누수 인정, WinUI 개선 약속 34 소프트웨어 QM카재 8.6k 07-27
2	MSI PRO MAX EDGE AI+, 대형 AI 모델 로컬 구동 지원 5 업계동향 QM달려 971 07-27
1	VR 기기도 가격 폭등… 퀄컴 칩 단가 인상에 밸브 '스팀 프레임' 1,000달러 돌파 전망 7 기타/주변기기 QM달려 624 07-27
5	TSMC 2나노 양산 본격화, 한 공장 월 2만 장 돌파, 수요 폭증에 3나노 넘어설 듯 7 업계동향 QM센스 715 07-27
3	젠슨 황, AI 홍보 위해 X 가입 7 업계동향 QM센스 454 07-27
3	AMD 임원: "엔비디아 베라 성능 결과 매우 만족, 우리가 근소하게 앞선다' 4 CPU/MB/RAM QM센스 1.1k 07-27
5	'소음은 잔디깎이, 성능은 AI 특화'… 엔비디아 Tesla V100 PC에 장착 9 그래픽카드 QM달려 1.1k 07-27
1	화웨이, 자체 DRAM 공장 건설, 모든 기업 RAM 가격 변화 가능성 3 CPU/MB/RAM QM센스 812 07-27
4	'방침 철회' 인텔, 서버용 칩에 하이퍼스레딩 기술 다시 넣는다 10 CPU/MB/RAM QM달려 1.9k 07-27
2	매모리값 인상에 中 그래픽카드 가격 급등 … 매장마다 '재고 확보전' 6 그래픽카드 QM달려 798 07-27
6	RTX 50 시리즈 핫스팟·메모리 온도 모니터링, 지금까지 밝혀진 모든 것 7 그래픽카드 QM달려 2.1k 07-27
35	RTX 5060, 3일 만에 중국서 가격 10만 원 이상 급등 37 그래픽카드 QM포시포시 5.4k 07-26
3	"中 AI 오픈모델 막아야" vs "허용해야"… 美 빅테크 진영 분열 9 업계동향 빌보 795 07-26
2	3D 프린팅으로 제작된 F-14 톰캣은 '세계 최초의 마이크로프로세서'를 FPGA로 재현한 CADC사의 MP944 칩을 사용하는데, 이 칩은 전투기의 가변익 시스... 4 기타/주변기기 크로노 1.2k 07-26
12	마이크로소프트 엣지는 크롬이 마침내 도입한 윈도우 11 기능을 10년 동안 독점적으로 제공해왔습니다 17 소프트웨어 크로노 3.7k 07-26
21	유튜브, AI 저퀄 영상 수익대상서 제외…의료·금융 분야 AI아바타도 제한 20 업계동향 빌보 2.8k 07-26
22	마이크로소프트가 마침내 윈도우 11 다운로드 및 설치 과정에 필요한 개선 작업을 진행하고 있습니다 20 소프트웨어 크로노 15.4k 07-26
47	AMD 라이젠(Zen 7 코어)은 AM5 소켓용 마지막 "Zen" 제품군이 될 가능성이 높으며, Zen 8은 DDR6 및 PCIe 6.0을 지원하며 AM6 소켓으... 53 CPU/MB/RAM 크로노 12.1k 07-26
13	마이크론 CEO 산제이 메흐로트라와 애플의 앙금은 수년 전부터 이어져 왔다는 보고서가 나왔으며, 이는 칩 공급 분쟁과 중국 CXMT로부터의 칩 조달 노력 속에 드... 15 업계동향 크로노 2k 07-25
53	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 76 그래픽카드 크로노 4.7k 07-25
13	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 22 업계동향 빌보 1.8k 07-25
7	네이버, 엔비디아·브룩필드서 14조원 조달해 AI팩토리 짓는다 9 업계동향 빌보 1.3k 07-25
11	한국 AI 시대 개막… 글로벌 빅테크 리더들과 풀스택 AI 미래 비전 공유 14 업계동향 QM포시포시 1k 07-25
11	미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 22 업계동향 크로노 1.8k 07-25
26	Zen 6 EPYC으로 미리보는 차세대 라이젠 CPU 모습, 기대 38 CPU/MB/RAM QM포시포시 3.5k 07-25
3	마이크로소프트, 팀즈 및 아웃룩 일부 기능 배포 중단 5 소프트웨어 크로노 639 07-25
7	마이크로소프트는 윈도우 11 업데이트 다운로드를 차단했던 Azure 장애에 대한 자세한 내용을 공개했습니다 8 소프트웨어 크로노 2.1k 07-25
9	중국 CXMT는 미국 HBM 제재를 우회하기 위해 맞춤형 DRAM에 집중하고 있다. 반면 안전한 길만 택하는 한국 업체들은 큰 기회를 놓칠 수 있다 12 CPU/MB/RAM 크로노 6k 07-25
3	AMD, NVIDIA의 루빈과의 경쟁에서 앞서나가기 위해 리사 수 CEO가 삼성의 HBM4 메모리 공급업체와 협력에 나선다 9 CPU/MB/RAM 크로노 2.1k 07-25