La inteligencia artificial se aplica cada vez más a herramientas que usamos a diario en nuestros dispositivos móviles, y aunque pueda ser tremendamente efectiva para algunas tareas, no es perfecta. Y prueba de ello es el caso de un padre que, tras tomar unas fotografías de la ingle de su hijo pequeño para que los doctores pudieran identificar de forma más fácil la infección que le había aparecido en la zona, Google marcó las imágenes como material de abuso sexual infantil.

Este suceso hizo que la compañía cerrará las cuentas del padre e informó al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en Estados Unidos, seguido de una investigación policial, según pudo informar The New York Times. El tema volvió a abrir un debate sobre la privacidad del usuario, y los errores que pueden surgir en las técnicas de detección de abuso infantil.

A ojos de Google, Mark es un criminal

Según el medio, este suceso tuvo lugar en febrero 2021, cuando debido a la situación pandémica de la COVID, una enfermera le recomendó a Mark, el padre del niño, echarle una foto a la zona afectada y enviárselas al doctor para antes de una consulta por videollamada. La infección acabó siendo curada por medio de antibióticos, pero lo que no se esperó Mark fue la sorpresa que le había preparado Google.

La compañía tardó un par de días en tomar cartas en el asunto cuando sus herramientas de detección por IA dieron con las fotos. …