En este último año y medio, la generación de imágenes generadas por inteligencia artificial ha avanzado a pasos agigantados, lo que no ha hecho sino aumentar la preocupación por el potencial mal uso de estas imágenes falsas… un debate que se vuelve más relevante a medida que los directivos de Silicon Valley ven acercarse las elecciones presidenciales estadounidenses de 2024.

En respuesta a ello, el equipo de Google DeepMind (el departamento de Alphabet responsable de desarrollos relacionados con la IA) ha anunciado hoy haber estado trabajando en una innovadora herramienta llamada SynthID, cuyo fin sería embeber 'marcas de agua' invisibles al ojo humano en las imágenes generadas por IA… pero de tal manera que dichas marcas siguieran siendo identificables por herramientas digitales creadas a tal efecto.

"Si bien no es una solución milagrosa para abordar el problema de la desinformación, SynthID es una solución técnica temprana y prometedora para este apremiante problema de seguridad de la IA".

Una de las características clave de SynthID es su resistencia a la manipulación: ya no bastará con modificar o recortar una imagen, pues la marca de agua digital de SynthID persiste incluso después de que la imagen haya sido alterada significativamente.

Aunque la herramienta aún se encuentra en una fase experimental y está disponible únicamente para unos pocos clientes de Google Cloud que utilizan su plataforma Vertex AI, se espera que se vaya perfeccionando a medida que se implementa de manera más amplia.

De hecho, Demis Hassabis, …