Quien avisa no es traidor. Eso es lo que pensará el reconocido historiador y filósofo israelí Yuval Noah Harari, quien lleva tiempo alertando sobre los riesgos de la IA y refiriéndose a ella como la tecnología que transformará radicalmente la sociedad, cuando sus pronósticos se cumplan.

En una entrevista con The Economist del 14 de septiembre de 2023, Harari expuso cómo esta tecnología representa un desafío existencial sin precedentes. Pese a que lo ha expresado en numerosas ocasiones, no se cansa de insistir en que la inteligencia artificial no es un invento más, como pudo ser la imprenta o la bomba atómica en su momento: es la primera tecnología con potencial para convertirse en un agente autónomo. De hecho, está convencido de que hemos creado algo que nos puede quitar el poder.

El dilema de la inteligencia artificial: ¿progreso o amenaza?

En este debate también se encontraba el CEO de Inflection AI y cofundador de DeepMind, Mustafa Suleyman, quien se imagina un futuro cercano (dentro de unos tres años) con sistemas capaces de realizar llamadas telefónicas autónomas, gestionar cadenas de suministro o interactuar con APIs. Ante esto, el historiador solo pudo darle la razón, pues cree que estas entidades podrían tomar decisiones e idear estrategias por su cuenta, superando por completo nuestra capacidad de controlarlas.

"Esto es el fin de la historia dominada por humanos"

Para explicar lo que sucederá, Harari utiliza la analogía de la invasión alienígena: imagínate que una flota de naves extraterrestres plagada de seres superinteligentes llegara en cinco años a la Tierra. En ese momento, todos tendríamos absoluto pavor y sentiríamos muchísima incertidumbre sobre si serían amables o destructivos para los humanos y el futuro de la civilización tal y como lo conocemos a día de hoy, ¿verdad? Pues bien, según él, esa es nuestra posición actual ante la IA.

A diferencia de tecnologías pasadas, estos sistemas podrían evolucionar habilidades que ni sus creadores anticiparon. Por ello, a pesar de discrepar en aspectos como el principio de precaución que plantea Suleyman, ambos pensadores coinciden en la necesidad de nuevas instituciones globales con legitimidad pública para regular la IA. Harari, por su parte, considera que sin una coalición internacional que establezca límites claros, la competencia geopolítica llevará irremediablemente a una "carrera hacia el abismo".

Sin duda, resulta complicado saber qué significa conservar el control en una era de superinteligencia, y mucho más cómo mantener los valores humanos en sistemas que podrían reinterpretarlos, pero ahí está la clave de todo. Las respuestas a estas preguntas definirán si la IA se convierte en una herramienta de progreso o, por primera vez, daremos la bienvenida a una fuerza autónoma que compita con la humanidad.