정부 관계자와 AI 업계 경영진은 화요일 빠르게 변화하는 이 분야에서 기본적인 안전 조치를 적용하고 국제적인 안전 연구 네트워크를 구축하기로 합의했습니다.
영국 블레클리 공원에서 열린 제1회 AI 안전에 관한 글로벌 서밋이 개최된 지 거의 6개월이 지난 지금, 영국과 한국은 이번 주 서울에서 AI 안전 서밋을 개최합니다. 이 회의는 AI 기술의 등장으로 전 세계가 직면한 새로운 도전과 기회를 강조합니다.
영국 정부는 화요일에 10개 국가와 유럽연합이 AI 안전 과학의 발전을 가속화하기 위해 세계 최초의 공공 지원 기관인 영국의 AI 안전 연구소와 유사한 국제 네트워크를 구축하기로 합의했다고 발표했습니다. 이 네트워크는 AI 안전에 대한 공통의 이해를 증진하고 연구, 표준 및 테스트와 관련된 업무를 조정할 것입니다. 호주, 캐나다, EU, 프랑스, 독일, 이탈리아, 일본, 싱가포르, 한국, 영국, 미국이 이 협약에 서명했습니다.
서울에서 열린 AI 서밋 첫날에는 리시 수낙 영국 총리와 윤석열 한국 총장이 주재하는 가상 회의에 글로벌 리더와 주요 AI 기업들이 모여 AI 안전, 혁신, 포용에 대해 논의했습니다.
토론에서 각국 정상들은 “인간 중심적이고 신뢰할 수 있으며 책임감 있는” AI를 우선시하면서 주요 글로벌 이슈를 해결하고 인권을 옹호하며 전 세계 디지털 격차를 해소하기 위한 국제 협력 강화를 강조하는 광범위한 서울 선언에 동의했습니다.
수낙은 영국 정부 성명에서 “AI는 매우 흥미로운 기술이며, 영국은 작년에 세계 최초의 AI 안전 서밋을 개최하는 등 그 잠재력에 대처하기 위한 전 세계적인 노력을 주도해 왔습니다.”라고 말했습니다. “하지만 긍정적인 측면을 얻으려면 안전성을 확보해야 합니다. 그렇기 때문에 오늘 AI 안전 기관 네트워크에 대한 협약을 맺게 되어 기쁘게 생각합니다.”
지난달 영국과 미국은 AI 안전에 관한 연구, 안전성 평가 및 지침에 협력하기 위한 파트너십 양해각서를 체결한 바 있습니다.
오늘 발표된 협약은 아마존, 앤트로픽, 코히어, 구글, IBM, 인플렉션 AI, 메타, 마이크로소프트, 미스트랄 AI, 오픈 AI, 삼성전자, 기술혁신연구소, xAi, 지푸.ai 등 AI 관련 16개 기업이 참여한 세계 최초의 AI 안전 약속에 이은 것입니다. (Zhipu.ai는 알리바바, 앤트, 텐센트의 지원을 받는 중국 회사입니다.)
영국 정부 성명에 따르면 미국, 중국, 아랍에미리트(UAE)를 포함한 AI 기업들은 “완화 조치로 위험을 기준치 이하로 유지할 수 없다면 모델이나 시스템을 전혀 개발하거나 배포하지 않겠다”는 안전 약속에 동의했습니다.
수낙은 “전 세계 여러 지역의 선도적인 AI 기업이 모두 AI 안전에 대한 동일한 약속에 동의한 것은 세계 최초입니다.”라고 말했습니다. “이러한 약속을 통해 세계 최고의 AI 기업들이 안전한 AI 개발 계획에 대한 투명성과 책임성을 제공할 것입니다.” |