Yoshua Bengio, padre de la IA: "Podría decidir destruir a la humanidad para que no podamos apagarla"

Los horizontes que presentan más dudas que certezas suelen generar temor. En ocasiones infundado, pero otras con una base firme, los miedos acompañan cada paso de la vida y también cada decisión, aunque en ocasiones esa sensación llegue con la perspectiva del tiempo.

Esto parece estar sucediendo con quienes dieron los primeros y fundamentales pasos en el campo de la inteligencia artificial. Nombres como Max Tegmark o Geoffrey Hinton alertan de los riesgos que pueden derivar de una falta de regulación en el desarrollo de la IA.

El peor escenario posible

A ellos se ha sumado a la hora de mostrar públicamente sus temores Yoshua Bengio, considerado junto al propio Hinton y con Yann LeCun como los “padrinos de la inteligencia artificial”. Bengio participó el año pasado en el festival How the Light Gets In, celebrado en Londres y en el marco de dicho evento conversó con la publicación especializada Live Science, quien recogió sus confesiones.

En ellas, Yoshua Bengio, ganador del Premio Turing en 2018 y del Premio Príncipe de Asturias de Investigación Científica y Técnica en 2022, no dudó en apuntar el riesgo que correría la humanidad en caso de una pérdida del mando sobre el desarrollo de la IA: "Si las máquinas superinteligentes tienen un objetivo de auto-conservación, su objetivo podría ser destruir a la humanidad para que no podamos apagarlas", apuntó sin titubeos.

La postura del científico canadiense es firme y cuenta con un nutrido número de defensores, aunque también hay quienes abogan por no demonizar la capacidad de la inteligencia artificial al no contar con elementos de juicio suficientes sobre su futuro, como así ha manifestado entre otros Demis Hassabis.

Sin embargo, para Yoshua Bengio, las vertientes de los riesgos de la inteligencia artificial no se quedan solo en la propia capacidad que esta pueda alcanzar, sino que también exige un control para mantener la inteligencia artificial en manos que brinden una utilidad general favorable para evitar así escenarios de sometimiento: "El otro peligro, si el primer escenario no se concreta, es que los humanos utilicen el poder de la IA para tomar el control de la humanidad en una dictadura mundial. Puede haber versiones más suaves de eso y puede existir en un espectro, pero la tecnología le dará un enorme poder a quien la controle", remarcó Bengio.

Para una figura plenamente reconocida en la comunidad científica como Yoshua Bengio, en el punto de análisis de las amenazas resulta crucial una colaboración entre las empresas inmersas en la evolución de la inteligencia artificial y los gobiernos para planificar y prevenir los escenarios. Diseñar un marco legislativo adecuado y razonable debería estar, en opinión de Bengio, más en el horizonte que nuevos avances sin un control preestablecido.