OpenAI ha retirado silenciosamente su AI Classifier, una herramienta experimental diseñada para detectar texto generado por sistemas de IA generativa, como ChatGPT.
Esta herramienta era utilizada por instituciones educativas para detectar el plagio en los trabajos de los alumnos, entre otros usos.
Esta decisión fue comunicada mediante una breve nota añadida a la página web oficial del clasificador de IA de OpenAI:
A partir del 20 de julio de 2023, el clasificador de IA ya no estará disponible debido a su baja tasa de precisión. Estamos trabajando para incorporar los comentarios y actualmente estamos investigando técnicas de procedencia más eficaces para el texto, y nos hemos comprometido a desarrollar y desplegar mecanismos que permitan a los usuarios entender si el contenido de audio o visual es generado por IA.
Lanzado el 31 de enero, el clasificador de IA de OpenAI surgió en medio de preocupaciones de educadores sobre el potencial de que los estudiantes lo usaran para escribir trabajos escolares.
Sin embargo, desde el principio, OpenAI admitió que su clasificador de IA no era «totalmente fiable», ya que solo identificaba correctamente el 26% del texto escrito por IA como «probablemente escrito por IA» y etiquetaba incorrectamente trabajos escritos por humanos el 9% de las veces.
En general, los detectores de escritura por IA, como el clasificador de IA de OpenAI, Turnitin y GPTZero, no han demostrado tener la suficiente precisión para ser confiables. Su metodología es especulativa y no está probada, lo que ha llevado a acusaciones erróneas de hacer trampas a estudiantes.
Además, los humanos pueden …