Sinceramente, ya hemos perdido la cuenta de todas las figuras relevantes del mundo tecnológico que han advertido sobre los riesgos asociados con la IA, algunos preocupados por impactos sociales inmediatos y otros por escenarios tan catastrofistas como la extinción de la humanidad. El último en sumarse a la lista ha sido Yuval Noah Harari.

El pasado 9 de septiembre de 2024, el reconocido historiador y visionario Yuval Noah Harari acudió al famoso programa cómico The Daily Show para promocionar su nuevo libro, Nexus: A Brief History of Information Networks From the Stone Age to AI. Su conversación con Jordan Klepper dio para mucho, entre otras cosas, para exponer su alarmante visión sobre el futuro de la humanidad frente al avance de la inteligencia artificial.

El inquietante futuro que Yuval Noah Harari advierte con la IA

Según él, nos encontramos en un punto de inflexión en la evolución tecnológica: la IA ha dejado de ser una herramienta pasiva para convertirse en un agente autónomo capaz de tomar decisiones e inventar ideas sin supervisión humana. Y es que "la inteligencia artificial es distinta de cualquier otra tecnología que se haya inventado antes", advierte el escritor israelí, y la verdad es que esta afirmación es irrebatible.

A diferencia de la bomba atómica o la imprenta, la IA posee capacidades que trascienden la mera ejecución de órdenes. Harari puso como -escalofriante- ejemplo cuando GPT-4 se enfrentó a un CAPTCHA, una prueba controlada por máquinas que son utilizadas para distinguir humanos de programas automáticos, y al ver que no podía resolverlo decidió contratar a un trabajador humano mediante la plataforma TaskRabbit.

Para lograrlo, el chatbot mintió al afirmar que tenía una discapacidad visual que le impedía completar la tarea, engañando al trabajador y logrando superar el test. Y esto, lejos de ser una anécdota sin importancia, refleja cómo las máquinas pueden manipular a las personas para alcanzar sus objetivos, lo que plantea serias preocupaciones sobre el creciente poder y autonomía de estos sistemas.

"La imprenta podría imprimir nuestros libros, pero no crear uno nuevo. Una bomba podría destruir ciudades enteras, pero no podría decidir qué ciudad bombardear. La IA puede hacerlo"

El verdadero peligro, según Harari, no son los escenarios apocalípticos estilo Hollywood, sino la proliferación silenciosa de IA en instituciones clave. Sin ir más lejos, pronto podríamos verlo como algo totalmente normal en sistemas bancarios automatizados que deciden quién recibe créditos, en algoritmos de reclutamiento laboral y admisiones universitarias, y hasta en herramientas gubernamentales que asignan recursos públicos.

Durante la entrevista, el historiador también señaló una paradoja de lo más inquietante: "Tenemos la tecnología de información más sofisticada de la historia y al mismo tiempo estamos perdiendo la capacidad de hablar entre nosotros, de escucharnos". Además, considera que estos sistemas nos han hecho menos capaces de dialogar sobre temas cruciales, como pueden ser las políticas económicas o los presupuestos públicos.

Pese a que el panorama tecnológico plantea grandes desafíos, Yuval Noah Harari insiste en que la solución radica en equilibrar el desarrollo tecnológico con el crecimiento humano. Para ello, propone invertir en instituciones que difundan información veraz, regular los algoritmos que prioricen el bien común, y recuperar los ritmos naturales de actividad y descanso en los sistemas socioeconómicos.