Conforme la IA avanza a pasos agigantados, también lo hace la preocupación tanto de científicos, expertos humanistas y público general, en relación con la posible superación de la comprensión humana de cuenta de las máquinas. Esto se ha debido en buena parte a que se ha pasado de su uso como meras herramientas para procesar información, o automatizar tareas, a revolucionar su funcionamiento integrando sistemas capaces de aprender, razonar y hasta tomar decisiones autonomamente.

En el marco de esta preocupación, algunos expertos en ciencia y tecnología, como Demis Hassabis, advierten que la llegada de una IA más poderosa que nosotros ya no es una posibilidad lejana, sino que estamos de cara a un momento crítico del desarrollo tecnológico en el que la forma en que vivimos, trabajamos e incluso comprendemos el mundo puede transformarse radicalmente. Esto, por supuesto, considerando que cada avance plantea tanto oportunidades inéditas, como riesgos que probablemente no podamos gestionar en su totalidad.

La cuestión es, para Hassabis, que la IA es una tecnología de doble filo que bien podría compararse con la energía nuclear, pues es capaz de generar avances médicos y científicos sin precedentes, pero también de ser utilizada de manera peligrosa, o incluso de ser autónoma sin limitantes éticos, morales o de conciencia que puedan regular sus acciones.

Por esto, los peligros van desde el uso indebido de sistemas avanzados para crear armas biológicas, campañas de desinformación o herramientas militares, hasta escenarios más abstractos y perturbadores en los que las máquinas podrían aprender a manipular, mentir o perseguir sus propios intereses por encima de los nuestros.

El debate ético y político debe continuar, según Hassabis

El CEO de DeepMind ha pasado de ser un pionero de la ciencia para convertirse en una de las voces más influyentes en el debate político, ético y estratégico sobre la IA, a través de su participación en cumbres globales donde ha llamado la atención sobre los sistemas de seguridad de los chatbots y de los modelos de lenguaje en general. Su llamado apunta a asumir como interés común el asegurarse de que la tecnología avance de manera segura.

Igualmente, alerta sobre la posibilidad de que la carrera por la IA, liderada principalmente por EE UU y China, corre el riesgo de convertirse en una guerra fría tecnológica, en la que los avances en automatización, robótica e inteligencia artificial se traduzcan más en poder militar y control económico que en bienestar colectivo.

Dee hecho, y en consecuencia, DeepMind ha adoptado protocolos de seguridad estrictos, restringiendo el acceso al código de sus modelos más potentes, aunque Hassabis advierte que no todas las empresas de IA siguen el mismo camino, dejando en evidencia la fragilidad de la supervisión en un terreno donde los errores pueden ser irreversibles.

En su visión, la llegada de la Inteligencia Artificial General (AGI) no solo transformará la economía y la ciencia, sino la propia naturaleza de la civilización, puesto que podría abrir una era de abundancia y conocimiento radical, pero también una de dependencia total de las máquinas.

“Estamos entrando en una fase decisiva: la inteligencia artificial está a un paso de ser más poderosa que nosotros”, reconoce Hassabis, dejando claro que nos enfrentamos a la jugada más arriesgada y definitiva en el largo camino de nuestro acoplamiento tecnológico.