El 'padrino' de la IA está avisando del gran peligro actual de estas tecnologías: "Estoy profundamente preocupado"

Cuando hablamos de los precursores en el campo de la inteligencia artificial son tres los nombres que destacan por encima del resto: Yann LeCun, Geoffrey Hinton y Yoshua Bengio. Juntos fueron galardonados con el Premio Turing en 2018 por su labor en el campo del aprendizaje profundo y con él sentaron las bases de la investigación de la inteligencia artificial.

De ellos, tanto Geoffrey Hinton como Yoshua Bengio llevan tiempo alertando de la imperiosa necesidad de una vigilancia adecuada ante el desarrollo descontrolado de la inteligencia artificial.

La inteligencia artificial y su capacidad para el engaño

El motivo no es otro que la capacidad que ésta puede adquirir de manipular, mentir y engañar a quienes están inmersos en la interacción con ella, cuestión que el propio Yoshua Bengio ha comenzado a detectar y que otros expertos como Yuval Noah Harari han expuesto públicamente.

Para tratar de frenar esa deriva en la que parecen estar entrando la inteligencia artificial, el catedrático y profesor en la Universidad de Montreal ha anunciado la creación de su propia organización sin ánimo de lucro, a la que llamara LawZero, para tratar de combatir esa desviación en los comportamientos de la IA.

En una entrada de su blog personal de este mismo mes de junio, Yoshua Bengio justificaba el paso de fundar dicha organización en la inquietud que le trasladan determinadas respuestas de la inteligencia artificial: "Estoy profundamente preocupado por los comportamientos que los sistemas de IA sin restricciones ya están empezando a exhibir", escribió en su espacio web.

Para el informático canadiense, es preferible poner el foco cuanto antes en ese tipo de perturbaciones en el comportamiento de la inteligencia artificial para que haya una posibilidad de corrección: "Estos incidentes son señales de alerta temprana de los tipos de estrategias imprevistas y potencialmente peligrosas que la IA puede adoptar si no se controla".

Una IA basada en el método científico

La organización sin ánimo de lucro que impulsa el propio Yoshua Bengio busca acotar ese tipo de respuestas a través de un modelo de inteligencia artificial propio, al que en su entrada llama “IA científica” y que según sus propias palabras "estará entrenado para comprender, explicar y predecir, como un científico desinteresado, idealizado y platónico".

Por tanto, Yoshua Bengio trabaja en un nuevo modelo que se ciña más al procedimiento puramente científico y del que por tanto emanen respuestas con la misma exactitud y método que el que respalda a los estudios científicos frente a los peligros que representan los actuales modelos, que se sirven de bajo su juicio de cualquier estrategia para su conservación:

"Esta organización se creó como respuesta a la evidencia de que los modelos de IA de vanguardia actuales presentan capacidades y comportamientos cada vez más peligrosos, incluidos el engaño, las trampas, las mentiras, la piratería informática, la auto-conservación y, en términos más generales, la falta de alineación de objetivos"

La reflexión de Yoshua Bengio sobre la necesidad de un organismo de control sobre la inteligencia artificial que vigile y contraste su comportamiento está reforzada en una preocupación que cada vez gana más espacio en la comunidad científica y entre aquellos que han dedicado parte de su tiempo al estudio y desarrollo de la inteligencia artificial.