수요일 메타는 백인 남성으로만 구성된 AI 자문 위원회를 만들었다고 발표했습니다. 또 무엇을 기대할 수 있을까요? 여성과 유색인종은 수십 년 동안 인공지능 분야에서 자격을 갖추고 이 분야의 발전에 핵심적인 역할을 하고 있음에도 불구하고 무시당하고 배제당하고 있다고 목소리를 높여왔습니다.
메타는 자문위원회의 다양성에 대한 논평 요청에 즉시 응답하지 않았습니다.
이 새로운 자문위원회는 성별과 인종의 대표성이 더 다양한 메타의 실제 이사회 및 감독위원회와는 다릅니다. 주주들은 이 인공지능 이사회를 선출하지 않았으며, 신탁 의무도 없습니다. 메타는 블룸버그와의 인터뷰에서 이 이사회가 “기술 발전, 혁신, 전략적 성장 기회에 대한 인사이트와 권고”를 제공할 것이라고 말했습니다. 이 위원회는 “주기적으로” 모일 것입니다.
AI 자문위원회는 윤리학자나 학계 또는 심층적인 연구 배경을 가진 사람이 아닌 사업가와 기업가들로만 구성된다는 점이 눈에 띕니다. 스트라이프, 쇼피파이, 마이크로소프트의 전현직 임원들이 시장에 내놓은 수많은 제품을 고려할 때 메타의 AI 제품 로드맵을 감독할 수 있는 좋은 위치에 있다고 주장할 수도 있지만, AI는 다른 제품과 다르다는 것은 여러 차례 입증된 바 있습니다. AI는 위험한 사업이며, 잘못하면 그 결과는 특히 소외된 계층에게 큰 영향을 미칠 수 있습니다.
AI의 사회적 영향을 연구하는 비영리 단체인 AI Now Institute의 전무이사 사라 마이어스 웨스트는 최근 TechCrunch와의 인터뷰에서 “대중의 요구를 충족시키기 위해” AI를 생산하는 기관을 “비판적으로 검토”하는 것이 중요하다고 말했습니다.
“AI는 오류가 발생하기 쉬운 기술이며, 독립적인 연구를 통해 이러한 오류가 균등하게 분배되지 않고 오랫동안 차별을 겪어온 커뮤니티에 불균형적으로 피해를 준다는 사실을 알고 있습니다.”라고 그녀는 말했습니다. “우리는 훨씬 더 높은 기준을 설정해야 합니다.”
여성이 남성보다 AI의 어두운 면을 경험할 가능성이 훨씬 더 높습니다. Sensity AI는 2019년에 온라인에서 발견한 AI 딥페이크 동영상의 96%가 비합의적인 성적으로 노골적인 동영상이라는 사실을 발견했습니다. 그 이후로 생성 AI는 훨씬 더 널리 보급되었으며, 여성은 여전히 이러한 폭력적인 행동의 표적이 되고 있습니다.
지난 1월에 발생한 한 유명한 사건에서는 테일러 스위프트에 대한 합의되지 않은 포르노 딥페이크가 X에서 퍼져나갔으며, 가장 널리 퍼진 게시물 중 하나는 수십만 개의 좋아요를 받고 4,500만 건의 조회수를 기록했습니다. X와 같은 소셜 플랫폼은 역사적으로 이러한 상황으로부터 여성을 보호하는 데 실패했지만, 테일러 스위프트는 세계에서 가장 영향력 있는 여성 중 한 명인 만큼 '테일러 스위프트 AI', '테일러 스위프트 딥페이크' 등의 검색어를 금지하는 방식으로 개입했습니다.”
하지만 이런 일이 발생했는데도 세계적인 팝스타가 아니라면 운이 나쁠 수 있습니다. 중학생과 고등학생이 같은 반 친구의 노골적인 딥페이크 영상을 만든다는 보고는 수없이 많습니다. 이 기술은 오래 전부터 사용되어 왔지만, 그 어느 때보다 쉽게 접근할 수 있으며, 기술에 능숙하지 않아도 여성의 사진을 '탈의'하거나 포르노에 얼굴을 바꿔치기하는 앱을 다운로드할 수 있습니다. 실제로 NBC의 캣 텐바게가 보도한 바에 따르면, 페이스북과 인스타그램은 스스로를 노골적인 이미지를 만드는 도구라고 설명하는 Perky AI라는 앱의 광고를 호스팅했습니다.
이 광고 중 두 개는 텐바게가 이 문제를 회사에 알리기 전까지 메타의 감시를 피한 것으로 알려졌으며, 유명인 사브리나 카펜터와 제나 오르테가의 신체가 흐릿하게 처리된 사진을 보여주며 앱에서 옷을 벗으라고 촉구하는 내용이었습니다. 광고에는 오르테가가 16세였던 시절의 사진이 사용되었습니다.
Perky AI의 광고 허용 실수는 고립된 사건이 아닙니다. 최근 메타의 감독위원회는 회사가 성적으로 노골적인 AI 생성 콘텐츠에 대한 신고를 처리하지 않은 것에 대한 조사를 시작했습니다.
인공지능 제품의 혁신에는 여성과 유색인종의 목소리가 반드시 포함되어야 합니다. 오랫동안 이러한 소외된 집단은 세상을 바꾸는 기술과 연구 개발에서 배제되어 왔으며, 그 결과는 참담했습니다.
1970년대까지만 해도 여성은 임상시험에서 배제되어 모든 연구 분야가 여성에게 어떤 영향을 미칠지에 대한 이해 없이 개발되었다는 사실을 쉬운 예로 들 수 있습니다. 예를 들어, 조지아 공과대학교에서 실시한 2019년 연구에 따르면 자율주행차의 센서가 흑인 피부를 감지하는 데 어려움을 겪을 수 있기 때문에 자율주행차가 흑인을 치고 지나갈 가능성이 더 높다고 합니다.
이미 차별적인 데이터로 학습된 알고리즘은 인간이 학습시킨 것과 동일한 편견을 되풀이할 뿐입니다. 우리는 이미 인공지능 시스템이 고용, 주택, 형사 사법 분야에서 인종 차별을 지속시키고 증폭시키는 것을 목격하고 있습니다. 음성 비서는 다양한 억양을 이해하는 데 어려움을 겪고 있으며, 영어가 AI의 모국어이기 때문에 영어를 모국어로 사용하지 않는 사람의 작업을 AI가 생성한 것으로 표시하는 경우가 많습니다. 안면 인식 시스템은 백인보다 흑인을 범죄 용의자와 일치하는 사람으로 더 자주 표시합니다.
현재 AI의 발전은 다른 곳에서 볼 수 있는 계급, 인종, 성별, 유럽 중심주의와 관련된 기존의 권력 구조를 그대로 구현하고 있으며, 이에 대응하는 지도자는 충분하지 않은 것 같습니다. 오히려 이를 강화하고 있습니다. 투자자, 창업자, 기술 리더들은 빠르게 움직이고 무언가를 깨뜨리는 데에만 집중하고 있어, 현재 가장 핫한 AI 기술인 제너레이티브 AI가 문제를 개선하는 것이 아니라 악화시킬 수 있다는 사실을 이해하지 못하는 것 같습니다. 맥킨지의 보고서에 따르면, AI는 4년제 학위가 필요하지 않고 연봉이 4만 2,000달러 이상인 직업 중 약 절반을 자동화할 수 있으며, 소수 근로자가 과대 대표되는 직업을 자동화할 수 있다고 합니다.
세계에서 가장 유명한 기술 기업 중 한 곳에서 AI로 세상을 구하기 위한 경쟁에 참여하고 있는 백인 남성으로만 구성된 팀이 어떻게 모든 사람을 위한 제품에 대한 조언을 할 수 있을지 걱정할 만합니다. 모든 사람, 진정으로 모든 사람이 사용할 수 있는 기술을 구축하려면 엄청난 노력이 필요할 것입니다. 사실 안전하고 포용적인 AI를 실제로 구축하는 데 필요한 연구부터 사회 전반의 이해에 이르기까지 필요한 계층은 매우 복잡하기 때문에 이 자문위원회가 메타가 이를 제대로 구현하는 데 도움이 되지 않을 것이 거의 분명합니다. 적어도 메타가 부족한 부분에서는 또 다른 스타트업이 등장할 수 있습니다.
|