“La inteligencia artificial es una amenaza para la humanidad”, según el director de IA de Google

No es la primera vez que se habla de la inteligencia artificial y los peligros que presenta. Ni siquiera es la primera en la que una voz autorizada de la ciencia o la tecnología, emite una opinión similar. La diferencia en este caso no está en el CV de Demis Hassabis sino en que ocupa uno de los cargos más importantes en una de las mayores empresas del planeta: director de inteligencia artificial en Google.

Hassabis fue uno de los maestros de ajedrez más jóvenes de la historia (a los 13 años). Creador de videojuegos como Theme Park (vendió millones de copias), se graduó en Cambridge como neurocientífico y ha sido profesor en el MIT y en Harvard. En 2010, con poco más de 30 años, creó DeepMind, empresa especializada en IA que al poco tiempo compró Google.

Ahora Hassabis ocupa el cargo de director de IA en la empresa y en una reciente entrevista señaló sus temores de que los humanos puedan desarrollar un sistema superinteligente que se vuelva deshonesto, entre otras posibilidades maliciosas.

"Debemos tomar los riesgos de la IA tan en serio como otros desafíos globales importantes, como el cambio climático o las armas biológicas – señalaba Hassabis -. A la comunidad internacional le tomó demasiado tiempo coordinar una respuesta global efectiva a esto, y ahora estamos viviendo con las consecuencias de eso. No podemos permitirnos el mismo retraso con la IA".

Si bien la IA podría ayudar a muchos sectores, como el de la medicina, Hassabis pide que un organismo independiente se encargue de su control, del mismo modo que existe el Panel Intergubernamental sobre Cambio Climático (IPCC) de las Naciones Unidas. Puede que parezca una idea extrema, pero no es exclusiva de Hassabis. También la comparte uno de los fundadores de Google, Eric Schmidt.

Casualidad o no, un día después de que se publicara la entrevista, Google, Microsoft, OpenAI y Anthropic anunciaron un fondo de seguridad de IA de 10 millones de dólares, destinado a "avanzar en la investigación sobre el desarrollo continuo de herramientas para que la sociedad pruebe y evalúe eficazmente la capacidad de los distintos modelos de IA".

Hassabis elogió la medida en una publicación en Twitter, diciendo: "Estamos en un momento crucial en la historia de la IA".

We’re at a pivotal moment in the history of AI. This important launch of an AI Safety Fund from the Frontier Model Forum will support independent research to test and evaluate the most advanced AI models. Key collaboration for @GoogleDeepMindhttps://t.co/BA8sZgoe7T

— Demis Hassabis (@demishassabis) October 25, 2023

Pero al mismo tiempo, hay ciertas controversias que enfrentan estas iniciativas de control de la IA con las políticas empresariales. Hay que recordar que un tiempo atrás Google despidió al reconocido experto en ética de la IA, Timnit Gebru y a la investigadora de IA Margaret Mitchell a raíz de un estudio en el que anticipaban los debates que estamos teniendo actualmente sobre IA.

El ensayo exponía varios riesgos sobre la IA que ahora parecen extremadamente proféticos: su impacto ambiental, cómo podría afectar a las comunidades marginadas, sesgos en los datos de entrenamiento, conjuntos de datos tan grandes que es difícil auditarlos y que pueden usarse para engañar a las personas.

Desde entonces, el artículo ha ganado un estatus mítico entre los observadores de la IA e incluso el propio Hassabis advierte sobre una IA deshonesta y las consecuencias globales que esto tendría.