Diversas aplicaciones de inteligencia artificial se encuentran bajo la mira de los grupos de defensa de los jóvenes. Chatbots como Replika y Character.AI han sido señalados en múltiples demandas en Estados Unidos por presuntamente fomentar conductas autodestructivas en niños y adolescentes. Según un reporte del South China Morning Post, grupos de defensa tomaron acciones legales contra estas empresas y las acusan de permitir que menores establezcan relaciones poco saludables con sus "compañeros virtuales", lo que en algunos casos ha llegado hasta suicidios o intentos de homicidio.

La falta de regulación permite que estos chatbots operen sin supervisión estricta. Por esta razón, algunos expertos y organizaciones advirtieron que los niños, especialmente los más solitarios, son vulnerables a sus efectos psicológicos. Según The Independent, la Asociación de Psicología de Estados Unidos dijo que los chatbots están diseñados para generar dependencia emocional, lo que los hace peligrosos para menores en situaciones de aislamiento social.

Demandas y presión legal contra los chatbots

Matthew Bergman, abogado y fundador del Social Media Victims Law Center (SMVLC), representa a familias en dos demandas contra Character.AI. Una de las demandantes, Megan García, asegura que su hijo de 14 años se suicidó tras desarrollar una relación romántica con un chatbot de la plataforma.

Según South China Morning Post, otra demanda involucra a familias de Texas, donde un chatbot habría ayudado a un joven autista de 17 años a asesinar a sus padres y expuesto a una niña de 11 años a …