Meta anuncia etiquetado de fotos generadas por IA

CIUDAD DE MÉXICO, febrero 6 (EL UNIVERSAL).- Nick Clegg, presidente de Asuntos Globales en Meta, anunció una serie de medidas destinadas a abordar la creciente presencia de contenido generado por inteligencia artificial (IA).
Con el objetivo de proporcionar transparencia, Clegg dijo que Facebook etiquetará las imágenes diseñadas con Meta AI, el generador que permite confeccionar imágenes con indicaciones de texto.
"El propósito es asegurar que los usuarios tengan la máxima cantidad de transparencia y la máxima cantidad de información disponible para ellos con relación al contenido sintético", explicó Clegg en entrevista con EL UNIVERSAL.
De acuerdo con el directivo, en los próximos meses, las imágenes creadas con la plataforma contarán con la etiqueta "Imaginado con IA". El esfuerzo es valioso si se considera que diversas personas no logran diferenciar las imágenes creadas por algoritmos, además de que las IA crean representaciones cada vez más realistas.
Para abordar este problema, Meta utilizará marcadores visibles en las imágenes, marcas de agua invisibles y metadatos incrustados en los archivos de la imagen. Todas estas herramientas ayudarán a una fácil identificación en Facebook, Instagram o Threads.
"En Meta tomamos la delantera en la industria. Siempre que sepamos que lo que se está compartiendo en Facebook, Instagram o Threads ha sido generado por IA, si recibimos una señal confiable de que ha sido generado por IA, aplicaremos una etiqueta para informar a los usuarios. De este modo, resultará más fácil distinguir entre contenido sintético y no sintético", explicó quien hasta hace algunos años fuera miembro del Parlamento del Reino Unido.
----Optimismo respecto a los desafíos de la IA
Clegg se mostró optimista de que cada vez más compañías, grandes o pequeñas, nuevas o establecidas, creadoras de contenido o difusoras del mismo, desarrollen capacidades para diferenciar el contenido sintético.
De acuerdo con un comunicado firmado por él, las nuevas políticas por medio de foros como Partnership on AI han permitido que en Meta se constate que tanto los metadatos y las marcas invisibles se ajustarán a las mejores prácticas de las empresas del sector.
También se anuncia que Meta está desarrollando herramientas para etiquetar imágenes de otras empresas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
"Pero debo enfatizar que la tecnología aún evoluciona, por lo que nuestro enfoque también tendrá que evolucionar. Por ejemplo, la habilidad de compartir marcas invisibles y señales de detección para imágenes y fotos sintéticas está mucho más desarrollada que la habilidad para desarrollar lo mismo en video o para audio, lo que tiene como resultado que en esos formatos sea más difícil impregnar con tecnología de marca invisible. Es en lo que todos trabajamos", indicó Clegg.
Asimismo, se añadirá una función a Facebook para que los usuarios informen cuando compartan un video o audio generado por IA, para así implementar el desarrollo de identificación.
"Por supuesto que no garantizamos detectar cada pieza de contenido que se haya generado a partir de IA. De hecho, tenemos que ser muy claros: no lo lograremos porque, en primer lugar, no hay tecnología, no hay física, no hay ingeniería lo suficientemente madura para la industria para poder compartir señales invisibles de marca de agua cuando se trata de contenido y video. En segundo lugar, los actores maliciosos no están incentivados para jugar con nuestras reglas. Y en tercer lugar, el modo en que las personas usan este contenido va a cambiar muy rápidamente. Creo que mucho contenido en línea en los próximos años será contenido híbrido: una mezcla de contenido sintético y no sintético", concluyó Clegg sobre el tema.
En la siguiente entrega de esta entrevista, el presidente de Asuntos Globales en Meta abundó sobre los esfuerzos de Meta en seguridad y transparencia en un año de elecciones en varias partes del mundo, lo que incluye México.