하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

OpenAI는 안전 문제로 어려움을 겪고 있습니다.

QM안나

3 951 3 2024.07.15 10:36

<img src="https://img2.quasarzone.com/editor/2024/07/15/f84916047b118d5771b4f91556cc720a.webp" alt="퀘이사존"> <div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">일러스트: Alex Castro / The Verge 워싱턴 포스트의 보도에 따르면 OpenAI의 안전 프로토콜에 대한 주장이 늘어나고 있다. OpenAI는 인간만큼 지능적인 AI를 개발하는 경쟁에서 선두주자입니다. 하지만 직원들은 800억 달러 규모의 비영리 연구실의 안전에 대한 심각한 우려를 표명하기 위해 언론과 팟캐스트에 계속 등장합니다. 최근 소식은 워싱턴 포스트 에서 나왔는데 , 익명의 소식통은 OpenAI가 안전성 테스트를 서두르고 제품의 안전성을 보장하기 전에 제품을 칭찬했다고 주장했습니다.

익명의 직원 이 워싱턴 포스트에 "그들은 발사가 안전한지 알기도 전에 발사 애프터 파티를 계획했습니다."라고 말했습니다 . "우리는 기본적으로 그 과정에서 실패했습니다."

OpenAI에서 안전 문제가 크게 다가오고 있으며, 계속해서 문제가 발생하는 듯합니다. OpenAI의 현재 및 전직 직원들은 공동 창립자 Ilya Sutskever가 떠난 후 안전팀이 해체된 지 얼마 지나지 않아 스타트업에 더 나은 안전 및 투명성 관행을 요구하는 공개 서한 에 서명했습니다 . OpenAI의 핵심 연구원인 Jan Leike는 얼마 지나지 않아 사임했으며 , 게시물에서 "안전 문화와 프로세스가 회사에서 반짝이는 제품에 밀려났다"고 주장했습니다.

안전은 OpenAI 헌장 의 핵심 이며, OpenAI가 경쟁자가 AGI에 도달하면 경쟁을 계속하는 대신 다른 조직이 안전을 증진하도록 도울 것이라고 주장하는 조항이 있습니다. OpenAI는 이처럼 크고 복잡한 시스템에 내재된 안전 문제를 해결하는 데 전념한다고 주장합니다. OpenAI는 안전을 위해 독점 모델을 공개하지 않고 비공개로 유지합니다( 자극 과 소송을 일으킴 ). 경고를 보면 안전이 회사의 문화와 구조에 매우 중요한데도 불구하고 안전이 우선순위에서 밀려난 것처럼 들립니다.

<h4 style="text-align: justify; line-height: 2;min-height: 30px">OpenAI가 불리한 입장에 있다는 것은 분명하지만 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다.
</h4>
OpenAI 대변인 타야 크리스티안슨은 The Verge 에 보낸 성명에서 "우리는 가장 유능하고 안전한 AI 시스템을 제공한 실적을 자랑스럽게 생각하며, 위험에 대처하기 위한 과학적 접근 방식을 믿습니다."라고 말했습니다 . "이 기술의 중요성을 감안할 때 엄격한 토론이 중요하며, 우리는 우리의 사명을 위해 전 세계의 정부, 시민 사회 및 기타 커뮤니티와 계속 협력할 것입니다." 

OpenAI와 신생 기술을 연구하는 다른 사람들에 따르면 안전에 대한 위험은 엄청납니다. 3월에 미국 국무부가 의뢰한 보고서에 따르면 "현재의 최전선 AI 개발은 국가 안보에 시급하고 증가하는 위험을 초래하고 있습니다."라고 합니다. "고급 AI와 AGI[인공 일반 지능]의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 만들 가능성이 있습니다."

OpenAI의 경고음은 작년에 CEO 샘 알트먼을 잠시 축출한 이사회 쿠데타 이후에도 계속됩니다. 이사회는 그가 "의사소통에서 지속적으로 솔직하지 못해서" 해임되었다고 말했고, 이는 직원들을 안심시키는 데 별 도움이 되지 않는 조사로 이어졌습니다 .

OpenAI 대변인 린지 헬드는 포스트에 GPT-4o 출시가 안전에 대해 "절충하지 않았다"고 말했지만, 이름을 밝히지 않은 다른 회사 대표는 안전 검토 일정이 단 1주일로 압축되었다고 인정했습니다. 익명의 대표는 포스트에 "우리는 전체 방식을 재고하고 있습니다."라고 말했습니다 . "이것은 [그저] 최선의 방법이 아니었습니다."
논란이 계속되는 가운데( Her 사건을 기억 하시나요 ?), OpenAI는 몇 가지 적절한 발표로 두려움을 가라앉히려 했습니다. 이번 주에 OpenAI는 Los Alamos National Laboratory와 협력하여 GPT-4o와 같은 고급 AI 모델이 생물 과학 연구에 안전하게 어떻게 도움이 될 수 있는지 연구할 것이라고 발표했고 , 같은 발표에서 Los Alamos의 자체 안전 기록을 반복해서 지적했습니다. 다음 날 익명의 대변인은 Bloomberg에 OpenAI가 대규모 언어 모델이 인공 일반 지능을 향해 나아가는 진전을 추적하기 위한 내부 척도를 만들었다 고 말했습니다 .

이번 주 OpenAI의 안전 중심 발표는 안전 관행에 대한 비판이 커지고 있는 상황에서 방어적인 변명으로 보입니다. OpenAI가 불리한 입장에 처해 있다는 것은 분명하지만, 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다. 정말 중요한 것은 OpenAI가 내부적으로 주장하는 것처럼 엄격한 안전 프로토콜을 갖춘 AI를 개발하지 못한다면 실리콘 밸리 버블 너머의 사람들에게 미칠 수 있는 잠재적 영향입니다. 일반인은 사유화된 AGI 개발에 참여할 수 없지만 OpenAI의 창작물로부터 얼마나 보호받을지 선택할 수 없습니다.

FTC 의장 리나 칸은 11월 블룸버그 에 "AI 도구는 혁신적일 수 있다"고 말했다 . 하지만 그녀는 "지금 당장은" "이러한 도구의 중요한 입력이 비교적 소수의 회사에 의해 통제되고 있다"는 우려가 있다고 말했다.

안전 프로토콜에 대한 수많은 주장이 정확하다면, 이는 OpenAI가 AGI 관리자라는 역할에 적합한지에 대한 심각한 의문을 제기하게 됩니다. 이 역할은 이 조직이 본질적으로 스스로에게 할당한 것입니다. 샌프란시스코의 한 그룹이 잠재적으로 사회를 바꿀 수 있는 기술을 통제하도록 허용하는 것은 우려의 원인이 되며, 그 어느 때보다 투명성과 안전에 대한 시급한 요구가 그 자체 내에서도 있습니다.</td></tr></tbody></table></div> ※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.

QM안나

행성: QM

포인트: 124,894 exp

작성물 댓글

기사 원문 링크가 잘못되어 수정했습니다. 03-22

모든회원 자기소개 펼치기

댓글: 3개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
4	쇼핑몰 알렛츠 영업종료…판매자·소비자 "제2의 티메프 우려" 9 기타/주변기기 빌보 786 14:00
11	MS, 미지원 CPU에서 윈도우 11 우회 설치를 막는 패치 적용 17 소프트웨어 QM포시포시 1.8k 11:49
16	저절로 입혀지는 아이언맨 슈트 가능케 하는 '나노로봇' 18 기타/주변기기 지수테이블 2.1k 02:30
32	ASUS, 차세대 AMD X870E 및 X870 메인보드 티저 공개 45 CPU/MB/RAM Wormhole 4.9k 08-17
18	티몬·위메프에 이어 '인터파크커머스'도 기업회생 신청 28 업계동향 빌보 4.3k 08-17
3	[루머] 기가바이트, GDDR6 메모리 탑재 4개의 RTX 4070 WindForce V2 준비 중 7 그래픽카드 Wormhole 2.6k 08-17
5	가드레일 없는 '그록 -2' 이미지 생성...AI 규제 결정타 되나 5 업계동향 큰돌 1.1k 08-17
50	ARM, 엔비디아/인텔에 대항할 게이밍 GPU 개발 중 79 그래픽카드 QM포시포시 5.5k 08-17
11	소프트뱅크 AI 반도체, 인텔 대신 TSMC가 만드나 14 업계동향 QM포시포시 1.5k 08-17
10	SK하이닉스, '하이-NA' EUV 장비 2026년 첫 도입 9 업계동향 빌보 1.7k 08-17
15	인텔, 차세대 HEDT CPU용 W890 칩셋 준비, P-코어가 많은 Granite Rapids-X가 될 것으로 보입니다. 22 CPU/MB/RAM user_854318 2.3k 08-17
51	"주차 했는데 불 붙어"…이번엔 테슬라 '펑', 1시간 넘게 물 뿌렸다 110 업계동향 지수테이블 6.7k 08-17
13	윈도우 11 프리뷰 빌드에서 FAT32 파티션 크기가 30년 만에 2TB로 증가 13 소프트웨어 Wormhole 3.3k 08-16
32	[루머] 인텔 코어 울트라 9 애로우 레이크 QS는 5.7GHz 클럭, 모든 P코어에서 5.4GHz 달성 57 CPU/MB/RAM Wormhole 6.3k 08-16
3	인텔 사파이어 래피즈 리프레시 박스 사진 유출 6 CPU/MB/RAM Wormhole 1.8k 08-16
8	AMD는 ZEN2 마티스에도 싱크클로즈 패치를 제공할 것 7 CPU/MB/RAM 류오동 2.4k 08-16
14	안텍, 새로운 SF850X SFX 80 Plus Gold 파워 서플라이 출시 19 파워 Wormhole 1.1k 08-16
35	MSI, CAMM2 DDR5 메모리 이점 강조: 높은 속도와 낮은 대기 시간, 시원하고 혁신적인 디자인 42 CPU/MB/RAM QM달려 2.2k 08-16
14	삼성·SK하이닉스 임원 연봉 삭감, 상반기 급여 20~30% 삭감 28 업계동향 QM바나 3.8k 08-16
4	AI 처리 기능 내장한 3D DRAM, 기존 HBM을 대체할 새로운 기술 6 업계동향 QM바나 1.2k 08-16
3	2024년 2분기 출하 폴더블 OLED 패널 약 1,000만 대, 기록 경신 3 디스플레이 QM이라 317 08-16
6	MSI, 240Hz MPG 321CURX QD-OLED 곡면 게이밍 모니터 발표 7 디스플레이 Wormhole 637 08-16
19	컬러풀, iGame DDR5 Loong Edition 메모리 출시 29 CPU/MB/RAM Wormhole 1.3k 08-16
1	MSI, 새로운 스타워즈 아웃로즈 게임 번들 발표 2 기타/주변기기 Wormhole 482 08-16
5	삼성, TSMC보다 먼저 2024년 4분기 또는 2025년 1분기에 고NA EUV 장비 설치 7 업계동향 QM달려 1.1k 08-16
3	벤큐, GV50 프로젝터 출시: 침실 천장에 대형 스크린의 스릴을 선사 4 기타/주변기기 심심해❤️ 488 08-16
1	페로브스카이트 양자점을 통한 효율적인 딥블루 LED로 과제 극복 3 디스플레이 QM이라 313 08-16
1	나카미치, 드래곤 홈 시네마 시스템을 위한 12인치 서브우퍼 업그레이드 출시 1 음향기기 심심해❤️ 425 08-16
23	TCL, 미니LED TV 판매량 삼성과 격차 좁히고 LG를 큰 차이로 추월 29 디스플레이 심심해❤️ 1.9k 08-16
10	머스크, AI 챗봇 '그록2' 출시…도 넘은 이미지 생성 논란 13 소프트웨어 빌보 1.8k 08-16