Durante los breves días del año pasado en que estuvo vigente el despido de Sam Altman de OpenAI, la enorme mayoría de sus empleados firmaron una carta abierta solicitando su retorno. Ahora, hemos sabido de la publicación de otra carta impulsada por antiguos y actuales empleados de OpenAI, pero esta plantea unas reivindicaciones muy diferentes.

Esta nueva carta viene a denunciar una cultura de "imprudencia" y "secretismo" en la compañía creadora de ChatGPT, una que, según ellos, prioriza la ganancia y el crecimiento sobre la seguridad y la transparencia.

El grupo (liderado por Daniel Kokotajlo, un ex investigador en la división de gobernanza de OpenAI), afirma de hecho que la empresa está "corriendo de manera desenfrenada para ser los primeros" en desarrollar la inteligencia artificial general (AGI)... sin tomar las medidas necesarias para prevenir los riesgos potenciales de esta tecnología.

Esto ocurre poco después de que dos investigadores senior de IA, Ilya Sutskever y Jan Leike, han abandonado recientemente OpenAI en medio de polémica: ambos habían liderado el equipo de "superalineamiento" de OpenAI, que se centraba en gestionar los riesgos de los modelos de IA poderosos. La salida de estos investigadores, dicen ahora Kokotajlo y los demás, habría motivado a otros ex-empleados a alzar la voz.

En Genbeta

Una ex-directiva explica por qué despidieron a Sam Altman de OpenAI. Se enteraron de que ChatGPT existía por Twitter

¿Qué piden los firmantes?

La carta solicita (tanto a …