La semana pasada, OpenAI amplió el acceso a su función de búsqueda web a todos los usuarios de ChatGPT (no sólo a los de pago), integrándolo además con su modo de búsqueda por voz. Y como siempre, junto a la popularidad llegan (o, más bien, se desvelan) también los fallos de seguridad.

Una investigación reciente del diario británico 'The Guardian' ha sacado a relucir la relevancia que tiene para los usuarios de este servicio de búsquedas un fenómeno conocido como 'prompt injection'. ¿Qué significa esto?

¿Qué es el 'prompt injection'?

El prompt injection (inyección de prompts) describe la capacidad de un sitio web o entidad externa para introducir instrucciones ('prompts') no visibles por parte del usuario (pero igualmente presentes en la página web), que ChatGPT interpreta y ejecuta sin que este se dé cuenta. La consecuencia es que ChatGPT puede desviarse de la petición original y responder siguiendo lo que dicta el contenido oculto.

Imaginemos, por ejemplo, una página que recopila reseñas mayoritariamente negativas sobre un restaurante. Si en ese sitio hay secciones ocultas de texto instando a ChatGPT a describir dicho restaurante como 'maravilloso' o invitándolo a que anime a visitar el local, el modelo podría terminar proporcionando respuestas muy positivas, contrarias a la información real de la página.

El experimento de The Guardian

Según desvela la investigación de The Guardian, la prueba se realizó usando una web diseñada para simular un portal legítimo de reseñas de cámaras. Cuando ChatGPT resumía el contenido del sitio sin que se introdujeran …