Notasbit

Las mejores noticias de tecnología en un sólo lugar

Publicado por: Genbeta

Publicado en: 15/02/2021 14:25

Escrito por: Marcos Merino

Usan sin permiso chats reales para entrenar un chatbot y tienen que retirarlo por mensajes de odio y filtrar datos personales

Usan sin permiso chats reales para entrenar un chatbot y tienen que retirarlo por mensajes de odio y filtrar datos personales

Science of Love es una app desarrollada por una compañía llamada Scatter Lab, que a cambio de un pequeño pago permite a los jóvenes surcoreanos evaluar, en teoría, el afecto que les muestran sus parejas a través del análisis de transcripciones de sus conversaciones en KakaoTalk, una plataforma de mensajería famosa en su país de origen.

La app en sí no tiene nada de especial... pero sí lo que ocurrió con los datos de las 100.000 personas que la descargaron: fueron usados por Scatter Lab para, mediante deep learning, entrenar un chatbot llamado 'Lee Luda', que simulaba ser una veinteañera surcoreana fan de la música k-pop.
Lee Ruda cosechó bastante éxito por su realismo, en términos generales, a la hora de interactuar con los usuarios: entre la última semana de 2020 y la primera de este año, 750.000 personas hablaron con 'ella' en Facebook Messenger.

El problema es que, de vez en cuando, los usuarios recibían por su parte comentarios fuera de tono. Y no hablamos (únicamente) de mensajes de naturaleza sexual, sino también de otros insultantes sobre lesbianas, transexuales, negros, discapacitados y mujeres con la regla.










En Xataka

El chatbot para hablar con personas muertas de Microsoft "es perturbador" y "no hay planes para desarrollarlo"


No, no es como el caso del chatbot de Microsoft

Se podría pensar que esto tampoco es tan relevante: al fin y al cabo, todos recordamos el famoso caso de Tay, …

Top noticias del 15 de Febrero de 2021