Yuval Noah Harari, visionario e historiador: "La IA nos verá mentir, y nos copiará"

Las grandes compañías inmersas en el desarrollo de la inteligencia artificial parecen enfocadas en las habilidades que ésta puede controlar y el tiempo que puede llevar que lo haga de la manera más exacta posible, alcanzando incluso la tan ansiada por la industria tecnológica inteligencia artificial general. Los avances no paran de producirse, pero hay vertientes que merecen una reflexión.

Uno de los mayores expertos en cuanto a inteligencia artificial se refiere, es el escritor israelí Yuval Noah Harari. Fruto de su formación y conocimiento en la materia, Harari participa en una cantidad notable de eventos y en todos ellos trata de llamar a revisar cómo de lejos quieren las grandes empresas tecnológicas llegar en las armas de las que dotan a sus IA y el modo en que lo hacen, en la educación que reciben.

Replicar comportamiento y no conocimiento

La pasada semana el historiador israelí, autor de Sapiens: de animales a dioses, participó en un evento organizado por The Wall Street Journal en el que expuso uno de los aspectos que más recelo le causan en cuanto al desarrollo de la inteligencia artificial: que pueda aprender a mentir.

Yuval Noah Harari llamó a la reflexión a los asistentes al acto a través de una analogía con la que explicó el motivo que le lleva a temer que ese momento pueda estar cerca. Bajo su opinión, la enseñanza de una inteligencia artificial no varía demasiado de aquella que unos padres pueden hacer con un niño a su cargo. Si durante su educación se le dan unas pautas que luego los mayores no respetan, lo razonable es que los más pequeños hagan lo que ven y no lo que se les dice que hagan, y eso mismo ocurre, a ojos de Harari, con la inteligencia artificial y su entrenamiento.

El historiador y docente en la Universidad Hebrea de Jerusalén lo expresó con las siguientes palabras en el acto celebrado por el Instituto de Liderazgo del Wall Street Journal: “Las IA tienen acceso al mundo y observan cómo se comportan los humanos y si ven a algunos de los humanos más poderosos del planeta, incluyendo a sus padres, mintiendo, la IA copiará el comportamiento”

Harari lanzó esa reflexión con la que pone en duda la capacidad de alineamiento de la inteligencia artificial con los riesgos que ello podría conllevar. Por supuesto, la alerta es un mensaje para que las grandes corporaciones se piensen dos veces sus procesos y busquen un entrenamiento estricto y ligado a la verdad y la exactitud: “Quienes piensan que pueden dirigir esta enorme corporación de IA, dicen: «Mientras miento, enseñaré a mis IA a no mentir; no funcionará; copiarán tu comportamiento», les alertó Yuval Noah Harari.

El escritor israelí no deja pasar la más mínima ocasión para tratar de abrir los ojos sobre los avances de la inteligencia artificial y señalar que puede que no todo sea de color de rosa durante su proceso de aprendizaje, con los riesgos que ello comporta.