Notasbit

Las mejores noticias de tecnología en un sólo lugar

Publicado por: Genbeta

Publicado en: 23/05/2024 13:48

Escrito por: Marcos Merino

La verdad de la IA la establece quien paga o quien regula: estos son los sesgos de un chatbot chino comparado con dos de EE. UU.

La verdad de la IA la establece quien paga o quien regula: estos son los sesgos de un chatbot chino comparado con dos de EE. UU.

En la era digital actual, los modelos de lenguaje de inteligencia artificial (IA) juegan un papel crucial en la comunicación y la difusión de información. Tanto, que para muchos usuarios han pasado a sustituir al buscador web en muchas de sus consultas.

Pero, al igual que ocurre con los medios de comunicación, con los chatbots no podemos realizar la consulta y esperar que la respuesta sea 100% objetiva e ideológicamente neutral: ya sea por las fuentes usadas para entrenar a la IA, o por las políticas de restricción de contenidos implementadas a posteriori, las IAs siempre tendrán sesgo.

Ya se ha hablado en más de una ocasión del sesgo 'progresista' de ChatGPT (Elon Musk lo mencionó primero como acusación contra OpenAI, pero más tarde un estudio académico lo confirmó), y el generador de imágenes de Gemini se vio situado hace no tanto en una polémica por la misma razón: en aquel caso, las consecuencias del sesgo fueron tan graves (y les salió tanto por la culata) que Google tuvo que tomar cartas en el asunto.

Recientemente, un usuario ha querido visibilizar en X otra clase diferente de sesgo comparando las respuestas de dos modelos prominentes desarrollados en Silicon Valley (Gemini Pro de Google y GPT-4 de OpenaI) con las de DeepSeek, un modelo chino. Basta con contraponer un resumen de cada respuesta para ver a qué sensibilidades satisfacer en cada caso cuando optan por no proporcionar determinada información al usuario.






DeepSeek, ese chatbot que …

Top noticias del 23 de Mayo de 2024