Hay quien pueda pensar que el entrenamiento y desarrollo de los modelos extensos de lenguaje que alimentan las herramientas de inteligencia artificial generativa necesiten de ordenadores y equipos de gran potencia para cumplir con su tarea. Esto, desde luego, es así, pero un equipo de investigadores ha demostrado lo contrario.

Desde EXO Labs, organización formada por investigadores e ingenieros de la Universidad de Oxford, han demostrado cómo un ordenador con Windows 98 ha ejecutado un potente modelo de lenguaje. El PC en cuestión contaba con un Pentium II de CPU y una memoria de 128 MB de RAM.

BitNet, una arquitectura pensada para 'democratizar el acceso a la IA'

El vídeo publicado en X demuestra cómo estos investigadores se las han ingeniado para ejecutar un modelo de lenguaje en esta antigualla de PC. El equipo disponía de un Elonex Pentium II con una frecuencia de 350 MHz y Windows 98 como sistema operativo. La tarea que se le había encomendado al PC fue la de ejecutar un modelo basado en Llama 2.

Haz clic en la imagen para ir a la publicación

El modelo estaba basado en el código de Llama2.c de Andrej Karpathy, uno de los científicos de datos más influyentes e innovadores que ha trabajado en empresas tales como OpenAI o Tesla. Contra todo pronóstico, el PC logró ejecutar este modelo de lenguaje y generar una historia sorprendentemente coherente, todo a una velocidad realmente decente para ser un …