Google lanza software que detecta imágenes generadas por IA

Google ha dado un paso en su estrategia por transparentar el contenido creado por inteligencia artificial. El gigante tecnológico anunció SynthID, una herramienta que añade una marca de agua digital a las imágenes generadas por IA, lo que las permitirá identificar con facilidad.

De acuerdo con una publicación en el blog de DeepMind, SynthID agrega un identificador directamente en los píxeles de una imagen, por lo que es imperceptible para el ojo humano. La marca de agua no compromete la calidad de imagen y soporta ediciones posteriores sin perder su efectividad. Eso significa que si añades filtros, recortas o conviertes a otro formato, la marca se mantendrá incrustada en el archivo.

La idea de una marca de agua en imágenes creadas por inteligencia artificial se ha vuelto necesaria en los últimos meses. Modelos como Midjourney o Stable Diffusion avanzan a pasos agigantados, generando contenido realista que engaña al usuario común. Para muestra bastan las fotos del arresto de Donald Trump o del Papa Francisco portando un abrigo acolchado, que se volvieron virales y obligaron a Midjourney a cancelar sus pruebas gratuitas.

SynthID no solo permite añadir un watermark, sino también escanear una imagen para saber si es producto de la IA generativa. La herramienta utiliza dos modelos de aprendizaje profundo: uno para marcas de agua y otro para identificación, los cuales se entrenaron a la par con un conjunto diverso de imágenes. Según los ingenieros de DeepMind, el modelo alinea visualmente el identificador con el contenido original para conocer si está presente.

La herramienta de Google no es infalible, aunque sus primeros resultados son prometedores

Al presentar sus resultados, SynthID usa tres niveles de confianza para informar al usuario. Vale la pena mencionar que la herramienta no es infalible ante una manipulación extrema de la imagen. No obstante, Google seguirá perfeccionándola y podría aplicarla en otros tipo de contenidos, como audio, video o texto.

SynthID estará disponible para un número limitado de personas que usan Imagen, un modelo de Vertex AI capaz de crear imágenes fotorrealistas a partir de una entrada de texto. La marca de agua digital es compatible con métodos de identificación de imágenes basados en metadatos, como Photoshop.

"Las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA porque a menudo se aplican como un sello en una imagen y se pueden editar fácilmente. Diseñamos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso después de modificaciones."

Google confirmó que tiene intenciones de ampliarlo a modelos de IA generativa de terceros en un futuro cercano. La tecnológica también se comprometió a mantener el desarrollo de SynthID para incluir nuevas mejoras en próximas versiones. La fase de prueba servirá para recopilar la retroalimentación de los usuarios y pulir los modelos a futuro.

La identificación de contenido generado por inteligencia artificial es uno de los temas cruciales en las discusiones sobre una regulación de esta tecnología. Tanto políticos como organizaciones pugnan por sistemas que permitan detectar imágenes o textos sintéticos que podrían usarse en campañas de desinformación. Algunos gobiernos ya se valen de esta estrategia para modificar la percepción de sus habitantes con deepfakes, mientras que otros estudian implementar la IA en campañas para desestabilizar a sus oponentes.