En la foto el sistema reconoce un plátano. Si se añade el parche, reconoce una tostadora

Unos investigadores de Google han publicado un trabajo sobre redes generativas antagónicas (adversarial networks) en forma de «parches» que pueden imprimirse fácilmente y usarse en el MundoReal™. Tal y como lo describen,

Se trata de un método para crear parches de imágenes antagónicas, robustas y con aplicación en el mundo real. Los parches son universales porque sirven para «atacar» cualquier escena; robustos porque funcionan bajo una amplia variedad de transformaciones y dirigidos porque pueden hacer que un clasificador produzca cualquier clase de objetivo que se desee.Estos parches se pueden imprimir, añadir a cualquier «escena» y fotografiarlos para alimentar con ellos a los clasificadores de imágenes. Incluso siendo muy pequeños provocan que los clasificadores ignoren los demás elementos de la escena e informen de la imagen objetivo deseada.

Como en el ejemplo, se puede «convertir» un plátano en una tostadora.

¿Cómo funcionan? Según explican los sistemas de reconocimiento visual (conocidos como «clasificadores») actúan en cierto modo como el sistema visual humano, simplificando la escena y fijándose sólo en ciertos detalles – los que consideran «importantes» durante la fase de entrenamiento.

Con estos parches añadidos lo que se consigue en básicamente «desviar la atención» del clasificador para concentrarla en el dibujo psicodélico, donde la red neuronal caerá en el engaño, ignorando el resto. El dibujo no es aleatorio aunque lo parezca; ha debido trabajarse previamente para que produzca el resultado deseado. En el trabajo completo hay …