Existe una herramienta capaz de detectar con un 99% de certeza si se utiliza ChatGPT, la IA de OpenAI. Sin embargo, la empresa no ha decidido lanzarla debido a un debate interno sobre su impacto en diversas áreas, incluyendo la posible reducción del número de usuarios que utilizan su servicio.

El informe proviene de The Wall Street Journal, que indica que este proyecto lleva aproximadamente dos años en desarrollo. Se trata de una herramienta distinta a una anterior, que permitía detectar IA con una baja tasa de precisión.

Las ventajas de esta herramienta

La nueva herramienta emplea un método de marca de agua en el texto, que permite identificar contenido generado específicamente por esta IA. Según TechCrunch, la compañía ha decidido tomar un "enfoque deliberado" respecto a su lanzamiento, debido a las complejidades involucradas y su posible impacto más allá de OpenAI.

Un portavoz de la empresa indicó al medio que este método es "técnicamente prometedor", pero conlleva riesgos importantes, como la susceptibilidad a ser eludido por malos actores y su posible afectación a grupos que no hablan inglés.

Aunque no se han especificado detalles precisos sobre el funcionamiento de la nueva herramienta, el informe de The Wall Street Journal señala que operaría mediante "pequeños cambios" en la selección de palabras por parte de ChatGPT. Esto resultaría en una marca de agua "invisible" para los usuarios, pero detectable mediante una herramienta separada.

Precisa, pero con defectos

En una publicación sobre la detección …