Desde el auge de la inteligencia artificial en 2022, hemos conocido infinidad de herramientas con la capacidad de facilitarnos el trabajo en gran medida. Desde generadores de imágenes hasta bots conversacionales, pasando por editores de vídeo con IA y mucho más, lo cierto es que hoy día tenemos un gran abanico de herramientas que podemos elegir.

Sin embargo, buena parte de los modelos de lenguaje que impulsan estas herramientas han sido entrenados con multitud de imágenes y obras creadas por artistas, y por tanto, protegidas por derechos de autor. Esto hace que la inteligencia artificial se haya nutrido de la labor de los artistas sin haber recibido crédito alguno, generando un debate ético sobre el uso indebido de la IA. No obstante, puede que todavía la batalla no está perdida.

Una herramienta que "envenena" las imágenes

Unos investigadores de la Universidad de Chicago han desarrollado un software open-source con la habilidad de “envenenar” las imágenes para que dejen de ser material para el entrenamiento de una IA. La han denominado ‘Nightshade’, y funciona alterando los píxeles de las imágenes de forma que sea imperceptible para el ojo humano y a su vez impidiendo que la imagen sea entrenada para un modelo de lenguaje.

Nightshade será una opción incluida en la herramienta Glaze, la cual ya impedía que las imágenes fueran entrenadas mediante un algoritmo que modificaba pequeños detalles de las imágenes imperceptibles. La diferencia es que Nightshade también hace confundir a la IA haciendo que los algoritmos de machine learning …