Todo empezó con un video difundido por el Daily mail en donde aparecían personas negras en un video de Facebook. El algoritmo, de alguna manera, recomendó a usuarios que vieron el video "seguir viendo usuarios sobre primates". El caso comenzó a ser investigado por The New York Times y Facebook ha respondido que se trata de un "inaceptable error" y que haría lo posible para que no volviera a repetirse.

Dani Lever, una portavoz de Facebook, dijo que aunque la inteligencia artificial de la red social ha tenido mejoras con los años sigue siendo imperfecta. "Nos disculpamos con cualquiera que pudo haber visto como ofensivas estas recomendaciones", dijo la portavoz.

Esta no es ni de lejos la primera polémica que tiene que ver con algoritmos y su potencial para interpretarse como discriminatorios. Google tuvo su propio episodio cuando su IA etiquetó a personas de piel oscura también como animales y más recientemente el algoritmo de Twitter estuvo en el centro de la discusión cuando se descubrió que privilegiaba la imagen de personas blancas sobre otras.

En ese entonces, la solución de Google fue vetar la palabra "gorila" de las búsquedas en Google Fotos, según encontró Wired más tarde.

Más evidencia

Numerosos estudios han sido hechos al respecto. Quizás uno de los más referidos es uno del MIT Media Lab que encontró que el reconocimiento facial suele fallar con frecuencia cuando se trata de individuos distintos a varones caucásicos.

El estudio utilizó tres softwares de …