페이스북, 인스타그램, 스레드의 모회사인 메타는 투명성을 강화하기 위해 자사 플랫폼에 새로운 조치를 시행하고 있습니다. 이 회사는 최근 인공 지능(AI)을 사용하여 생성된 콘텐츠에 라벨을 지정하겠다는 계획을 발표했으며, 목표는 사용자에게 소셜 미디어에서 보고 공유하는 내용에 대한 보다 명확한 맥락을 제공하는 것입니다.
회사는 "가까운 미래에 페이스북, 인스타그램, 스레드 전반에 걸쳐 AI 도구로 생성된 이미지에 라벨을 추가하기 시작할 것"이라며 이미지 라벨링으로 이 이니셔티브를 시작할 예정입니다. 현재 워터마크, 메타데이터 등 AI 생성 콘텐츠에 일반적으로 사용되는 마커를 식별할 수 있는 자동 감지 시스템을 개발 중입니다. 메타의 초기 초점은 이미지에 있지만 장기적인 목표는 AI가 생성한 비디오와 오디오도 식별할 수 있는 것입니다.
메타는 이미 메타 AI로 생성된 이미지에 "Imagined with AI" 라벨을 적용하고 있으며, 다른 업계 파트너와 협력하여 메타의 자체 도구 외부에서 생성된 콘텐츠에 대해 앞으로 몇 달 내에 새로운 감지 기능을 준비할 수 있기를 바라고 있습니다. 지금까지 회사는 Google, OpenAI, Microsoft, Adobe, Midjourney 및 Shutterstock의 이미지에 라벨을 붙일 수 있다고 판단했습니다.
그러나 비디오 및 오디오와 관련하여 장애물이 나타납니다. 이러한 유형의 콘텐츠를 생성하는 도구는 아직 표준화된 마커를 널리 수용하지 않았기 때문에 메타가 이를 감지하기가 어렵습니다.
이 문제를 해결하기 위해 메타는 AI를 사용하여 비디오 및 오디오 콘텐츠가 생성된 시기를 사용자가 수동으로 표시할 수 있는 새로운 "공개 및 라벨 도구"를 출시하겠다는 의사를 밝혔습니다. 사용자는 디지털 방식으로 제작되거나 변경된 "사실적인 비디오 또는 사실적으로 들리는 오디오"에 대해 이러한 공개를 해야 하며 Meta는 이를 준수하지 않는 사람들에게 처벌을 가할 권한이 있습니다. |