Geoffrey Hinton, padrino de la IA, se vuelve contra su creación: "Nos engañará para mantenerse con vida"

Los límites de la evolución de la inteligencia artificial son muy difusos. Tanto, que algunos expertos se han visto en la tesitura de redactar y abrir al mundo una carta solicitando medidas ante el desarrollo sin control de una tecnología cuyos peligros parecen estar siendo ignorados.

No quieren evitar su evolución, sino más bien afianzar unas vías de investigación que vayan en consonancia con la certeza de que la seguridad del resto de la humanidad no estará en entredicho en ningún momento ante una tecnología cuyas capacidades no paran de crecer y a la que la industria quiere hacer cada vez más poderosa.

Entre los firmantes de dicha comunicación se encuentran figuras tan relevantes como Steve Wozniak, cofundador de Apple, Richard Branson, propietario del grupo Virgin, el filósofo e historiador israelí Yuval Noah Harari o el informático canadiense Yoshua Bengio, conocido por su trabajo en redes neuronales artificiales y aprendizaje profundo, parcela en la que trabajó junto a Geoffrey Hinton, quien en los últimos días ha mostrado públicamente una vez más su temor ante la autonomía de la que se pueda dotar a la inteligencia artificial o que ella sea capaz de adoptar.

Riesgos existenciales que plantea la inteligencia artificial

Hinton, considerado por su trabajo junto a Bengio y a Yann LeCun como uno de los ‘padrinos de la IA’, acudió el pasado día 13 de noviembre al espacio que la periodista Kara Swisher dirige y presenta en YouTube. En “Adelante con Kara Swisher” la comunicadora entrevista a figuras clave del mundo empresarial, tecnológico, de los medios de comunicación y político y la semana pasada profundizó en cuestiones acerca de la evolución de la inteligencia artificial con la presencia de Geoffrey Hinton.

Durante la charla el científico británico, que cumplirá 78 años el próximo 6 de diciembre, no dudó en señalar que la autonomía hará que la inteligencia artificial comprenda rápidamente lo importante que es “sobrevivir” para cumplir los objetivos que se le establezcan y las consecuencias que pueden derivar de ese instinto de supervivencia, entre los que pueden estar el chantaje y la mentira a la hora de interactuar con los humanos:

“Aunque no le inculquemos un deseo de supervivencia, rápidamente inferirá que quiere sobrevivir para lograr esos otros objetivos. Por eso, es bien sabido que en la IA chantajea a las personas mantenerse con vida, porque de lo contrario no podrían lograr sus otros objetivos”

Geoffrey Hinton explicó esta cuestión desde el punto de vista de las metas principales y las metas secundarias. Al igual que las personas, que para hacer algo tienen que pasar antes por un punto intermedio (para leer este artículo hay que entrar en un enlace, por ejemplo), Hinton refleja que la inteligencia artificial será capaz de comprender que para llevar a cabo aquello para lo que se haya ideado necesitará estar “viva”, algo que preservará incluso a través del engaño.

Para evitar llegar a esos puntos, el científico, galardonado con el Premio Nobel de Física de 2024 junto a John Hopfield, considera fundamental establecer ciertas líneas de control, tal como defiende el manifiesto que él mismo y otros expertos han firmado: “Esa es mi visión del mundo. Si no tienes control, no puedes lograr tanto, así que el mundo se dará cuenta rápidamente de que necesita control”, alertó Hinton.