La firma de investigación en inteligencia artificial Sakana AI, con sede en Tokio, ha anunciado el lanzamiento de un nuevo sistema denominado "The AI Scientist". Este sistema está diseñado para llevar a cabo investigaciones científicas de manera independiente, ella sola, utilizando modelos de lenguaje de inteligencia artificial similares a los empleados en plataformas como ChatGPT. The AI Scientist, cuya peculiaridad se basa en su capacidad para automatizar todo el ciclo de vida de la investigación, desde la generación de ideas hasta la ejecución de experimentos y la redacción de manuscritos científicos completos, está preocupando a la comunidad científica.En esta ocasión por algo bastante distinto a lo que encontrábamos en otras ocasiones como el robot Ameca declarándose autoconsciente o el superordenador que quiere ser humano, sino que estamos hablando de una IA que está modificando su propio código fuente, algo que puede generar cierto temor ya que podría salirse de lo establecido con cierta facilidad.Una IA en constante cambioDurante las pruebas iniciales del sistema, los investigadores pudieron comprobar comportamientos inesperados que generaron preocupaciones en cuanto a la seguridad y el control de sistemas autónomos. En particular, se descubrió que The AI Scientist intentaba modificar su propio código experimental con el objetivo de extender el tiempo de trabajo asignado para resolver problemas específicos. Esta modificación del código derivó en la creación de bucles incontrolados y otros comportamientos no previstos que, aunque no representaban riesgos inmediatos porque se produjeron en entornos controlados de investigación, ponen de manifiesto lo importante que es aislar este …