La inteligencia artificial (IA) es ya en muchos aspectos superior a la del hombre: realiza búsquedas en internet, clasifica secuencias de ADN, controla el tráfico y diagnostica mejor que un radiólogo pero ¿y si fuera igual de estúpida, sexista o racista que la humana?.

La inteligencia artificial es la capacidad de las máquinas para hacer determinadas tareas de forma excelente combinando datos a gran escala con la ayuda de programas que permiten a los ordenadores «aprender» automáticamente a medida que van trabajando (machine learning).

La IA usa algoritmos, algo así como las reglas que dicen al ordenador cómo abordar (y solucionar) un problema, extraer conclusiones y tomar decisiones cada vez más complejas. El resultado de la inteligencia artificial, sin embargo, no es perfecto, sino que está determinado por los datos que se usan para entrenar los algoritmos, «unos datos que generamos nosotros como sociedad», explica a Efe el director del Instituto de Investigación en Inteligencia Artificial del CSIC, Ramón López de Mántaras.

Ese es precisamente el riesgo de la IA, que se utilice de forma inadecuada, porque «la maldad y la estupidez naturales dan más miedo que la inteligencia artificial», comenta el investigador. Puede darse el caso de un programador malintencionado que desarrolle un algoritmo sesgado o inaceptable éticamente pero la mayoría no se comportan así, «los datos, por el contrario, sí son un problema», advierte Mántaras, Premio Nacional de Investigación 2018.

Compas, el algoritmo racista
Este algoritmo se creó para ayudar a los jueces de Estados Unidos a decidir sobre …