El proyecto secreto de IA tras el despido de Sam Altman y que podría amenazar a la humanidad

La crisis que ha sacudido a OpenAI durante la última semana parece haber llegado a su fin tras el regreso de Sam Altman a la dirección ejecutiva de la empresa y la sustitución de la junta directiva que le despidió hace una semana. Lo que no ha estado claro en ningún momento son los motivos que llevaron a la empresa a deshacerse de uno de sus fundadores y también una de las figuras más destacadas en el mundo de la tecnología. En un comunicado realizado entonces, OpenAI habló de que el CEO “no fue consistentemente franco en sus comunicaciones con la junta, obstaculizando su capacidad de ejercer sus responsabilidades”. Según Reuters, uno de los motivos detrás de su repentino despido fue una carta que recibió la junta por parte de investigadores de la empresa que alertaban del descubrimiento de una poderosa inteligencia artificial que podría amenazar a la humanidad.

Esta IA se llama Q*, pronunciado como Q-Star en inglés, y se acumula a una larga lista de quejas de la anterior junta sobre el director ejecutivo. Entre ellas, su preocupación por comercializar los avances tecnológicos antes de comprender sus consecuencias.

Tras ser contactada OpenAI por Reuters, Mira Murati, quien fue elegida muy brevemente como nuevo CEO el pasado fin de semana, ha enviado una comunicación a la plantilla. En ella reconoce la existencia del proyecto Q*, que la junta recibió una carta antes de lo sucedido con Altman y les avisa de las historias que surgirían en medios, sin referirse a su fiabilidad.

La compañía no ha realizado ningún comentario al medio, pero según sus fuentes en OpenAI creen que podría ser un gran avance en la búsqueda de una Inteligencia Artificial General, AGI por sus siglas en inglés. Según la definición de OpenAI, una AGI es un sistema autónomo que sobrepasa a las personas en la mayoría de tareas con un valor económico.

¿Qué puede hacer Q*?

Los investigadores consideran las matemáticas una barrera a superar en el desarrollo de las inteligencias artificiales generativas. Al contrario de otros campos en los que destacan, como las traducciones o comunicarse con lenguaje natural, en el que las respuestas correctas pueden ser diversas, en las matemáticas solo hay una. Esto implica que una IA que las domine tenga capacidades de razonamiento similares a las de la inteligencia humana. Mientras que una calculadora puede resolver un número limitado de operaciones, una IA general puede aprender, comprender y sacar conclusiones.

La preocupación sobre Q* se debe a que es un modelo capaz de resolver determinados problemas matemáticos. Aunque todavía al nivel de un estudiante de primaria, su habilidad resolviendo esos tests hizo que los investigadores se sintieran muy optimistas sobre su futuro.

Sam Altman participó la semana pasada en la Cumbre de Cooperación Económica Asia-Pacífico realizada en San Francisco. Allí afirmó que “cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante, y llegar a hacer eso es el honor profesional de mi vida”. ¿Se estaba refiriendo a Q*?