Se unen dos aspectos fundamentales en este caso. El primero de ellos tiene que ver con la intención, clara y declarada, de Mark Zuckerberg de liderar el campo de la inteligencia artificial. Y la segunda de ellas es que no todo el mundo, de hecho, muchos expertos, señalan los potenciales peligros de una IA sin controles. Y ahora surge una nueva duda: un equipo de expertos de Meta afirma haber observado cómo los sistemas de inteligencia artificial (IA) de la compañía se mejoran a sí mismos sin intervención humana.

“En los últimos meses, hemos empezado a ver indicios de cómo nuestros sistemas de IA se mejoran a sí mismos – explicaba el propio Zuckerberg, en un comunicado -. La mejora es lenta por ahora, pero innegable y el desarrollo de la superinteligencia ya está a la vista”.

Zuckerberg añadió que la IA automejorable es el primer paso hacia el logro de la superinteligencia artificial (IAA), una inteligencia artificial capaz de superar las capacidades cognitivas de los humanos.

En términos generales, los investigadores de IA consideran las capacidades de la IA en tres estratos. Si bien los modelos actuales de IA pueden hacer cosas extraordinarias, como predecir las estructuras de las proteínas, estas capacidades son extremadamente limitadas. En tales casos, el sistema solo puede superar a los humanos en un área específica, pero carece de inteligencia general para que esta capacidad se aplique en diferentes disciplinas.

El siguiente nivel se denomina inteligencia artificial general (IAG) y se refiere a modelos capaces de comprender, aprender y adaptarse de forma muy similar al cerebro humano. La IAG es el estado final al que Zuckerberg hizo referencia en su comunicado y se refiere a modelos que han evolucionado hasta superar con creces el potencial humano y que podrían mejorarse a un ritmo exponencial, dando lugar a una “explosión de inteligencia”.

Los científicos se refieren al hipotético momento en que alcancemos la IAG como la singularidad tecnológica. La referencia de Zuckerberg a la observación de la autosuperación de la IA no es la primera vez que se detecta este fenómeno. En octubre de 2024, científicos de la Universidad de California en Santa Bárbara publicaron un estudio centrado en el concepto de autosuperación.

En él, definieron, crearon y probaron un marco de IA basado en la idea de una Máquina de Gödel: un dispositivo teórico capaz de automejorarse reescribiendo su propio código e instrucciones. Es importante destacar que la máquina solo implementaría un cambio si pudiera presentar una prueba formal de que este sería beneficioso.

Los autores, liderados por William Wang, experimentaron con un marco de IA basado en ese concepto y demostraron que su Agente Gödel podía mejorar su propio rendimiento en diversas tareas, como codificación, ciencias, matemáticas y razonamiento. La realidad es que pocos modelos suelen tener la capacidad de reescribir su propio código. El Agente Gödel no solo podía acceder a toda su base de código, sino también al código utilizado para desarrollar mejoras, demostrando al mismo tiempo que estas eran beneficiosas.

Según el estudio, la IA mostró consistentemente un mejor rendimiento en áreas clave que los agentes diseñados por humanos con los que se comparó. Zuckerberg afirmó que la IA podría representar un paso transformador en el progreso tecnológico de la humanidad y que podría conducir al “descubrimiento de cosas nuevas que hoy en día son inimaginables – concluye Zuckerberg -. Pero también tendremos que ser rigurosos a la hora de mitigar estos riesgos y cuidadosos con lo que decidimos publicar en código abierto. Aun así, creemos que construir una sociedad libre requiere que aspiremos a empoderar a las personas tanto como sea posible. Por muy profunda que sea la abundancia que la IA pueda producir algún día, es probable que un impacto aún más significativo en nuestras vidas provenga de que todos tengamos una superinteligencia personal que nos ayude a alcanzar nuestras metas”.