Meta etiquetará imágenes generadas por IA en Facebook e Instagram

Los usuarios de Facebook e Instagram comenzarán a ver etiquetas en imágenes generadas por IA que aparecerán en sus redes sociales, parte de una iniciativa más amplia de la industria tecnológica para clasificar entre lo que es real y lo que no.

Meta dijo que está trabajando con socios de la industria en estándares técnicos que facilitarán la identificación de imágenes y, eventualmente, videos y audio generados por herramientas de inteligencia artificial.

Lo que queda por ver es qué tan bien funcionará en un momento en el que es más fácil que nunca crear y distribuir imágenes generadas por IA que pueden causar daño, desde información errónea sobre elecciones hasta desnudos falsos no consensuados de celebridades.

“Es una especie de señal de que se están tomando en serio el hecho de que la generación de contenido falso en línea es un problema para sus plataformas”, dijo Gili Vidan, profesora asistente de ciencias de la información en la Universidad de Cornell. Podría ser “bastante eficaz” para señalar una gran parte del contenido generado por IA creado con herramientas comerciales, pero probablemente no lo captará todo, afirmó.

El presidente de asuntos globales de Meta, Nick Clegg, no especificó el martes cuándo aparecerían las etiquetas, pero dijo que será “en los próximos meses” y en diferentes idiomas, señalando que “se están llevando a cabo una serie de elecciones importantes en todo el mundo”. “

“A medida que la diferencia entre contenido humano y sintético se vuelve borrosa, la gente quiere saber dónde está el límite”, dijo en una publicación de blog.

Meta ya pone una etiqueta “Imaginado con IA” en imágenes fotorrealistas creadas por su propia herramienta, pero la mayor parte del contenido generado por IA que inunda sus servicios de redes sociales proviene de otros lugares.

Varias colaboraciones de la industria tecnológica, incluida la Iniciativa de Autenticidad de Contenido liderada por Adobe, han estado trabajando para establecer estándares. Un impulso para la creación de marcas de agua digitales y el etiquetado de contenido generado por IA también fue parte de una orden ejecutiva que el presidente estadounidense Joe Biden firmó en octubre.

Clegg dijo que Meta trabajará para etiquetar “imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock mientras implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas”.

Google dijo el año pasado que las etiquetas de IA llegarán a YouTube y sus otras plataformas.

“En los próximos meses, introduciremos etiquetas que informarán a los espectadores cuando el contenido realista que están viendo es sintético”, reiteró el martes el CEO de YouTube, Neal Mohan, en una publicación de blog del año próximo.

Una posible preocupación para los consumidores es si las plataformas tecnológicas se vuelven más efectivas a la hora de identificar contenido generado por IA de un conjunto de importantes proveedores comerciales, pero pasan por alto lo que se hace con otras herramientas, creando una falsa sensación de seguridad.

“Hay muchas cosas que dependerán de cómo las plataformas comuniquen esto a los usuarios”, dijo Vidan de Cornell. “¿Qué significa esta marca? ¿Con cuánta confianza debo tomarlo? ¿Qué se supone que me dice su ausencia?“

KJ