일러스트: Alex Castro / The Verge
워싱턴 포스트의 보도에 따르면 OpenAI의 안전 프로토콜에 대한 주장이 늘어나고 있다.
OpenAI는 인간만큼 지능적인 AI를 개발하는 경쟁에서 선두주자입니다. 하지만 직원들은 800억 달러 규모의 비영리 연구실의 안전에 대한 심각한 우려를 표명하기 위해 언론과 팟캐스트에 계속 등장합니다. 최근 소식은 워싱턴 포스트 에서 나왔는데 , 익명의 소식통은 OpenAI가 안전성 테스트를 서두르고 제품의 안전성을 보장하기 전에 제품을 칭찬했다고 주장했습니다.
익명의 직원 이 워싱턴 포스트에 "그들은 발사가 안전한지 알기도 전에 발사 애프터 파티를 계획했습니다."라고 말했습니다 . "우리는 기본적으로 그 과정에서 실패했습니다."
OpenAI에서 안전 문제가 크게 다가오고 있으며, 계속해서 문제가 발생하는 듯합니다. OpenAI의 현재 및 전직 직원들은 공동 창립자 Ilya Sutskever가 떠난 후 안전팀이 해체된 지 얼마 지나지 않아 스타트업에 더 나은 안전 및 투명성 관행을 요구하는 공개 서한 에 서명했습니다 . OpenAI의 핵심 연구원인 Jan Leike는 얼마 지나지 않아 사임했으며 , 게시물에서 "안전 문화와 프로세스가 회사에서 반짝이는 제품에 밀려났다"고 주장했습니다.
안전은 OpenAI 헌장 의 핵심 이며, OpenAI가 경쟁자가 AGI에 도달하면 경쟁을 계속하는 대신 다른 조직이 안전을 증진하도록 도울 것이라고 주장하는 조항이 있습니다. OpenAI는 이처럼 크고 복잡한 시스템에 내재된 안전 문제를 해결하는 데 전념한다고 주장합니다. OpenAI는 안전을 위해 독점 모델을 공개하지 않고 비공개로 유지합니다( 자극 과 소송을 일으킴 ). 경고를 보면 안전이 회사의 문화와 구조에 매우 중요한데도 불구하고 안전이 우선순위에서 밀려난 것처럼 들립니다.
OpenAI가 불리한 입장에 있다는 것은 분명하지만 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다.
OpenAI 대변인 타야 크리스티안슨은 The Verge 에 보낸 성명에서 "우리는 가장 유능하고 안전한 AI 시스템을 제공한 실적을 자랑스럽게 생각하며, 위험에 대처하기 위한 과학적 접근 방식을 믿습니다."라고 말했습니다 . "이 기술의 중요성을 감안할 때 엄격한 토론이 중요하며, 우리는 우리의 사명을 위해 전 세계의 정부, 시민 사회 및 기타 커뮤니티와 계속 협력할 것입니다."
OpenAI와 신생 기술을 연구하는 다른 사람들에 따르면 안전에 대한 위험은 엄청납니다. 3월에 미국 국무부가 의뢰한 보고서에 따르면 "현재의 최전선 AI 개발은 국가 안보에 시급하고 증가하는 위험을 초래하고 있습니다."라고 합니다. "고급 AI와 AGI[인공 일반 지능]의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 만들 가능성이 있습니다."
OpenAI의 경고음은 작년에 CEO 샘 알트먼을 잠시 축출한 이사회 쿠데타 이후에도 계속됩니다. 이사회는 그가 "의사소통에서 지속적으로 솔직하지 못해서" 해임되었다고 말했고, 이는 직원들을 안심시키는 데 별 도움이 되지 않는 조사로 이어졌습니다 .
OpenAI 대변인 린지 헬드는 포스트에 GPT-4o 출시가 안전에 대해 "절충하지 않았다"고 말했지만, 이름을 밝히지 않은 다른 회사 대표는 안전 검토 일정이 단 1주일로 압축되었다고 인정했습니다. 익명의 대표는 포스트에 "우리는 전체 방식을 재고하고 있습니다."라고 말했습니다 . "이것은 [그저] 최선의 방법이 아니었습니다."
논란이 계속되는 가운데( Her 사건을 기억 하시나요 ?), OpenAI는 몇 가지 적절한 발표로 두려움을 가라앉히려 했습니다. 이번 주에 OpenAI는 Los Alamos National Laboratory와 협력하여 GPT-4o와 같은 고급 AI 모델이 생물 과학 연구에 안전하게 어떻게 도움이 될 수 있는지 연구할 것이라고 발표했고 , 같은 발표에서 Los Alamos의 자체 안전 기록을 반복해서 지적했습니다. 다음 날 익명의 대변인은 Bloomberg에 OpenAI가 대규모 언어 모델이 인공 일반 지능을 향해 나아가는 진전을 추적하기 위한 내부 척도를 만들었다 고 말했습니다 .
이번 주 OpenAI의 안전 중심 발표는 안전 관행에 대한 비판이 커지고 있는 상황에서 방어적인 변명으로 보입니다. OpenAI가 불리한 입장에 처해 있다는 것은 분명하지만, 홍보 활동만으로는 사회를 보호하기에 충분하지 않습니다. 정말 중요한 것은 OpenAI가 내부적으로 주장하는 것처럼 엄격한 안전 프로토콜을 갖춘 AI를 개발하지 못한다면 실리콘 밸리 버블 너머의 사람들에게 미칠 수 있는 잠재적 영향입니다. 일반인은 사유화된 AGI 개발에 참여할 수 없지만 OpenAI의 창작물로부터 얼마나 보호받을지 선택할 수 없습니다.
FTC 의장 리나 칸은 11월 블룸버그 에 "AI 도구는 혁신적일 수 있다"고 말했다 . 하지만 그녀는 "지금 당장은" "이러한 도구의 중요한 입력이 비교적 소수의 회사에 의해 통제되고 있다"는 우려가 있다고 말했다.
안전 프로토콜에 대한 수많은 주장이 정확하다면, 이는 OpenAI가 AGI 관리자라는 역할에 적합한지에 대한 심각한 의문을 제기하게 됩니다. 이 역할은 이 조직이 본질적으로 스스로에게 할당한 것입니다. 샌프란시스코의 한 그룹이 잠재적으로 사회를 바꿀 수 있는 기술을 통제하도록 허용하는 것은 우려의 원인이 되며, 그 어느 때보다 투명성과 안전에 대한 시급한 요구가 그 자체 내에서도 있습니다. |