La inteligencia artificial está causando un gran impacto en la sociedad desde que existen herramientas tan prácticas y útiles como ChatGPT. Las IAs generativas han conseguido la atención de muchas personas y son multitud de compañías las que se han sumado a usar chatbots para agilizar todo tipo de procesos.

No obstante, aunque este tipo de inteligencias artificiales puedan ayudarnos a lidiar con las tareas más tediosas y a ser más productivos, hay que tener en cuenta que todavía tienen un gran margen de mejora y que pueden fallar. Que un chatbot "alucine" en una conversación amistosa y como pasatiempo es una cosa. Que siendo parte de un programa de una organización sin ánimo de lucro falle al aconsejar a una persona sobre desórdenes alimenticios es algo completamente distinto. Sin embargo, también habría que preguntarse en primer lugar por qué se le ha delegado esta complicada tarea a un chatbot.

Una línea de ayuda "sustituida" por un chatbot

La Asociación Nacional de Trastornos Alimenticios en Estados Unidos (NEDA) retiró su chatbot "Tessa" el pasado año tras continuos informes de que la inteligencia artificial estaba ofreciendo consejos perjudiciales. De hecho, esta organización sin ánimo de lucro ha estado en el punto de mira durante mucho tiempo tras haber despedido a cuatro de sus trabajadores que operaban en su línea de ayuda, los cuales habían formado un sindicato.

La línea de ayuda permitía llamar o enviar mensajes de texto a voluntarios que ofrecían apoyo y recursos a personas preocupadas sobre problemas relacionados …