하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

OpenAI는 안전 문제로 어려움을 겪고 있습니다.

QM안나

3 970 3 2024.07.15 10:36

<img src="https://img2.quasarzone.com/editor/2024/07/15/f84916047b118d5771b4f91556cc720a.webp" alt="퀘이사존"> <div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">일러스트: Alex Castro / The Verge 워싱턴 포스트의 보도에 따르면 OpenAI의 안전 프로토콜에 대한 주장이 늘어나고 있다. OpenAI는 인간만큼 지능적인 AI를 개발하는 경쟁에서 선두주자입니다. 하지만 직원들은 800억 달러 규모의 비영리 연구실의 안전에 대한 심각한 우려를 표명하기 위해 언론과 팟캐스트에 계속 등장합니다. 최근 소식은 워싱턴 포스트 에서 나왔는데 , 익명의 소식통은 OpenAI가 안전성 테스트를 서두르고 제품의 안전성을 보장하기 전에 제품을 칭찬했다고 주장했습니다.

익명의 직원 이 워싱턴 포스트에 "그들은 발사가 안전한지 알기도 전에 발사 애프터 파티를 계획했습니다."라고 말했습니다 . "우리는 기본적으로 그 과정에서 실패했습니다."

OpenAI에서 안전 문제가 크게 다가오고 있으며, 계속해서 문제가 발생하는 듯합니다. OpenAI의 현재 및 전직 직원들은 공동 창립자 Ilya Sutskever가 떠난 후 안전팀이 해체된 지 얼마 지나지 않아 스타트업에 더 나은 안전 및 투명성 관행을 요구하는 공개 서한 에 서명했습니다 . OpenAI의 핵심 연구원인 Jan Leike는 얼마 지나지 않아 사임했으며 , 게시물에서 "안전 문화와 프로세스가 회사에서 반짝이는 제품에 밀려났다"고 주장했습니다.

안전은 OpenAI 헌장 의 핵심 이며, OpenAI가 경쟁자가 AGI에 도달하면 경쟁을 계속하는 대신 다른 조직이 안전을 증진하도록 도울 것이라고 주장하는 조항이 있습니다. OpenAI는 이처럼 크고 복잡한 시스템에 내재된 안전 문제를 해결하는 데 전념한다고 주장합니다. OpenAI는 안전을 위해 독점 모델을 공개하지 않고 비공개로 유지합니다( 자극 과 소송을 일으킴 ). 경고를 보면 안전이 회사의 문화와 구조에 매우 중요한데도 불구하고 안전이 우선순위에서 밀려난 것처럼 들립니다.

<h4 style="text-align: justify; line-height: 2;min-height: 30px">OpenAI가 불리한 입장에 있다는 것은 분명하지만 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다.
</h4>
OpenAI 대변인 타야 크리스티안슨은 The Verge 에 보낸 성명에서 "우리는 가장 유능하고 안전한 AI 시스템을 제공한 실적을 자랑스럽게 생각하며, 위험에 대처하기 위한 과학적 접근 방식을 믿습니다."라고 말했습니다 . "이 기술의 중요성을 감안할 때 엄격한 토론이 중요하며, 우리는 우리의 사명을 위해 전 세계의 정부, 시민 사회 및 기타 커뮤니티와 계속 협력할 것입니다." 

OpenAI와 신생 기술을 연구하는 다른 사람들에 따르면 안전에 대한 위험은 엄청납니다. 3월에 미국 국무부가 의뢰한 보고서에 따르면 "현재의 최전선 AI 개발은 국가 안보에 시급하고 증가하는 위험을 초래하고 있습니다."라고 합니다. "고급 AI와 AGI[인공 일반 지능]의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 만들 가능성이 있습니다."

OpenAI의 경고음은 작년에 CEO 샘 알트먼을 잠시 축출한 이사회 쿠데타 이후에도 계속됩니다. 이사회는 그가 "의사소통에서 지속적으로 솔직하지 못해서" 해임되었다고 말했고, 이는 직원들을 안심시키는 데 별 도움이 되지 않는 조사로 이어졌습니다 .

OpenAI 대변인 린지 헬드는 포스트에 GPT-4o 출시가 안전에 대해 "절충하지 않았다"고 말했지만, 이름을 밝히지 않은 다른 회사 대표는 안전 검토 일정이 단 1주일로 압축되었다고 인정했습니다. 익명의 대표는 포스트에 "우리는 전체 방식을 재고하고 있습니다."라고 말했습니다 . "이것은 [그저] 최선의 방법이 아니었습니다."
논란이 계속되는 가운데( Her 사건을 기억 하시나요 ?), OpenAI는 몇 가지 적절한 발표로 두려움을 가라앉히려 했습니다. 이번 주에 OpenAI는 Los Alamos National Laboratory와 협력하여 GPT-4o와 같은 고급 AI 모델이 생물 과학 연구에 안전하게 어떻게 도움이 될 수 있는지 연구할 것이라고 발표했고 , 같은 발표에서 Los Alamos의 자체 안전 기록을 반복해서 지적했습니다. 다음 날 익명의 대변인은 Bloomberg에 OpenAI가 대규모 언어 모델이 인공 일반 지능을 향해 나아가는 진전을 추적하기 위한 내부 척도를 만들었다 고 말했습니다 .

이번 주 OpenAI의 안전 중심 발표는 안전 관행에 대한 비판이 커지고 있는 상황에서 방어적인 변명으로 보입니다. OpenAI가 불리한 입장에 처해 있다는 것은 분명하지만, 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다. 정말 중요한 것은 OpenAI가 내부적으로 주장하는 것처럼 엄격한 안전 프로토콜을 갖춘 AI를 개발하지 못한다면 실리콘 밸리 버블 너머의 사람들에게 미칠 수 있는 잠재적 영향입니다. 일반인은 사유화된 AGI 개발에 참여할 수 없지만 OpenAI의 창작물로부터 얼마나 보호받을지 선택할 수 없습니다.

FTC 의장 리나 칸은 11월 블룸버그 에 "AI 도구는 혁신적일 수 있다"고 말했다 . 하지만 그녀는 "지금 당장은" "이러한 도구의 중요한 입력이 비교적 소수의 회사에 의해 통제되고 있다"는 우려가 있다고 말했다.

안전 프로토콜에 대한 수많은 주장이 정확하다면, 이는 OpenAI가 AGI 관리자라는 역할에 적합한지에 대한 심각한 의문을 제기하게 됩니다. 이 역할은 이 조직이 본질적으로 스스로에게 할당한 것입니다. 샌프란시스코의 한 그룹이 잠재적으로 사회를 바꿀 수 있는 기술을 통제하도록 허용하는 것은 우려의 원인이 되며, 그 어느 때보다 투명성과 안전에 대한 시급한 요구가 그 자체 내에서도 있습니다.</td></tr></tbody></table></div> ※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.

QM안나

행성: QM

포인트: 125,370 exp

작성물 댓글

기사 원문 링크가 잘못되어 수정했습니다. 03-22

모든회원 자기소개 펼치기

댓글: 3개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
0	FCC, 스페이스X의 1세대 스타링크 위성 업그레이드 승인 업계동향 QM건빵 405 08-21
2	교통부, 차량 간 소통 기술 다시 추진 1 기타/주변기기 QM건빵 538 08-21
2	Exascend, 2.5인치 SATA SSD 라인을 15.36TB 용량으로 확장 4 저장장치 QM달려 348 08-21
2	xMEMS, 칩에 1mm 두께의 액티브 마이크로 쿨링팬 출시 1 업계동향 QM달려 500 08-21
12	NZXT, 재구성된 H5 Flow 미드타워 ATX 케이스 공개 18 케이스 QM달려 1.1k 08-21
2	ASUS Republic of Gamers, 프리미엄 1440p 게임 모니터 3종 공개 2 디스플레이 QM달려 563 08-21
1	ASUS ROG, 경쟁 플레이어 및 e스포츠 전문가를 위한 게임 주변기기 출시 2 업계동향 QM달려 397 08-21
2	ViewSonic, 새로운 XG36 시리즈 모니터 출시 3 디스플레이 QM달려 172 08-21
3	HP, 새로운 스트리밍 장비와 오멘 35L 게이밍 데스크탑으로 게임스컴을 강타하다 4 기타/주변기기 심심해❤️ 327 08-21
4	쿨러마스터, X 시리즈 Platinum 파워 서플라이 발표 6 파워 QM오즈 475 08-21
6	AMD, 6조원 쏟아 서버업체 인수… 엔비디아 맹추격 9 업계동향 지수테이블 1.9k 08-21
3	[지금은 과학] 가방처럼 메고다니며 물 만든다 4 쿨링솔루션 지수테이블 557 08-21
46	인텔 패치에도 불구하고 검은 신화: 오공 개발진이 13/14세대 CPU 크래시에 대해 경고 40 CPU/MB/RAM Wormhole 10.9k 08-21
13	NZXT, 2024형 새로운 Kraken Elite 일체형 수냉 쿨러 출시 18 쿨링솔루션 QM포시포시 2.9k 08-21
12	3Dcenter에서 정리한 그래닛 릿지 메타 리뷰 11 CPU/MB/RAM 류오동 1.6k 08-21
13	ASUS, AMD X870/X870E 메인보드 발표 43 CPU/MB/RAM QM포시포시 3.4k 08-20
3	ASUS, DDR5 메모리 속도를 최대 400MT/s까지 높일 수 있는 NitroPath 공개 1 CPU/MB/RAM Wormhole 1.6k 08-20
18	[루머] AMD, Zen 4 6코어 AMD Ryzen 5 7600X3D 준비 중 & 9월 초 출시 예정 26 CPU/MB/RAM Wormhole 5.1k 08-20
8	GeForce Game Ready 560.94 WHQL 드라이버 출시 9 소프트웨어 Wormhole 2.5k 08-20
4	올해 35% 삭감될 인텔 마케팅 예산은 내부적으로 일자리와 마케팅 프로그램이 위협받고 있음을 나타냅니다. 7 업계동향 user_854318 1.2k 08-20
6	엔비디아, GeForce RTX 40 "스타워즈 아웃로즈" 번들 프로모션 발표 7 그래픽카드 Wormhole 1.1k 08-20
31	[루머]라이젠 5 7600X3D, 9월 초 출시 예정 40 CPU/MB/RAM QM포시포시 6.1k 08-20
4	정부 "한국판 ASML 만든다"...소부장 성장지원 발표 10 업계동향 블랙웰 1.1k 08-20
4	테슬라 휴머노이드 로봇 ‘옵티머스’, 얼마나 개발됐나 3 기타/주변기기 블랙웰 443 08-20
4	AMD Software: Adrenalin Edition 24.10.37.01 1 그래픽카드 RoseWoo 585 08-20
19	엔비디아, GDDR6 RTX 4070 오늘 출시 & GDDR6X 버전과 동일한 MSRP 48 그래픽카드 Wormhole 6.1k 08-20
8	2천만 원대 中 휴머노이드 로봇, 양산 모델 공개됐다 10 업계동향 빌보 1.5k 08-20
4	LG전자, 배송카트 98인치 TV도 '척척' 6 디스플레이 심심해❤️ 1.4k 08-20
1	삼성, ASML 차세대 EUV 리소그래피 장비 조달 축소설 3 업계동향 QM바나 758 08-20
7	인텔의 코어 i3 후속작, 8코어의 코어 울트라 3가 애로우 레이크 제품군에 출시됩니다. 14 CPU/MB/RAM user_854318 2.6k 08-20