Inteligencia Artificial

Yoshua Bengio: «Las máquinas no pueden ser seres independientes, sería muy peligroso»

«No sabemos cómo lograr que sean tan inteligentes como los humanos», dice el reputado investigador en IA de la Universidad de Montreal

Yoshua Bengio
Yoshua BengioLa Razónfreemarker.core.DefaultToExpression$EmptyStringAndSequenceAndHash@e4c5a58

El Instituto de Inteligencia Artificial de Quebec (Mila), situado en el barrio Little Italy de Montreal, es un hervidero de más de 800 investigadores de multitud de nacionalidades que, sentados frente a un ordenador, buscan respuestas al insondable mundo de la Inteligencia Artificial (IA). Allí recibe a LA RAZÓN Yoshua Bengio (París, 1964), considerado uno de los padres del «Deep learning» o «aprendizaje profundo», una técnica de la IA que busca que las máquinas, imitando el comportamiento humano, puedan llegar a realizar tareas que hasta ahora solo podían hacer los humanos. Acaba de recibir el Princesa de Asturias de Investigación Científica y Técnica, junto a Geoffrey Hinton, Yann LeCun y Demis Hassabis, aunque previamente, en 2018, fue ya reconocido con el Premio Turing, el «Nobel de la Informática». Es profesor del Departamento de Ciencias de la Computación e Investigación Operativa de la Universidad de Montreal y es fundador y director científico de Mila. Una de sus preocupaciones es, precisamente, el «lado oscuro» de la IA. De ahí su afán por establecer límites y por que los gobiernos adopten leyes que marquen los límites éticos a nivel mundial.

La educación es uno de los pilares de la sociedad. ¿Cómo cree que la Inteligencia Artificial puede cambiarla?

Es necesario que todo el mundo entienda bien cómo funciona la IA, porque va a estar en todos los ámbitos de la sociedad. En la educación siempre será necesaria la presencia del profesor con los alumnos, pero no siempre un docente cuenta con el tiempo suficiente como para proporcionar la educación personalizada que requiere el estudiante. En Montreal ya hay un proyecto que trabaja en la creación de un currículo educativo personalizado para cada alumno. El sistema identifica las fortalezas y debilidades en el aprendizaje y su objetivo es acelerar el proceso. Pero esto no es más que un ejemplo de cómo la IA puede ayudar en la educación, sobre todo en los momentos en los que hay falta de profesores.

¿Cree que la IA es ya más inteligente que los humanos?

No, estamos muy lejos de ello. Puedes conseguir que sea más experta que un humano en un determinado ámbito, como a la hora de pilotar un avión, o en cuestiones relacionadas con la bioquímica, pero eso no significa que tienen el mismo tipo de inteligencia que nosotros. Tu coche es más rápido que tú, pero hay otras cosas que tu coche no sabe hacer. No tenemos máquinas que den sentido común o con todas las capacidades humanas que sean capaces de entender el doble sentido de una frase o las susceptibilidades. Las máquinas no comprenden el mundo como los humanos. No tienen sus capacidades.

Algunos estudiosos vaticinan que en 2049 las máquinas tendrán capacidad para escribir best sellers o incluso que en 2026 las máquinas podrán escribir comentarios de texto mejor que un alumno de Educación Secundaria. ¿Comparte estas predicciones?

Me parecen ridículas. No sabemos realmente lo que puede ocurrir dentro de diez años. En una década puede pasar cualquier cosa.

Yoshua Bengio
Yoshua BengioAmelie Philibertfreemarker.core.DefaultToExpression$EmptyStringAndSequenceAndHash@e4c5a58

¿La IA servirá para que las máquinas empaticen con los humanos?

Hay que conseguir esa empatía, pero veremos si somos lo suficientemente sabios o listos para conseguirlo. Las bases de esto se mencionan en el libro de Stuart Russel «Human Compatible: Artificial Intelligence and the Problem of Control». La idea es conseguir que las máquinas puedan llegar a entender lo que nos hace estar tristes o infelices para que sean capaces de proporcionarnos bienestar, pero aún estamos muy lejos de conseguirlo, aunque es la dirección en la que debemos seguir trabajando. Hay que crear máquinas que nos ayuden, no seres independientes. Eso no sería una buena idea, sería adentrarnos en un camino muy peligroso.

¿Podría decirse que es lo más cercano a crear vida que puede hacer el hombre?

El camino de la IA realmente suscita esta pregunta. Vamos a construir sistemas, pero no sé si queremos verlos como seres pensantes. Una vez que construyes seres así puedes hacer copias infinitas y puede ser inmortal, pero esto es muy diferente a la vida tal y como la conocemos, que es muy frágil, que depende de un solo cuerpo y una vez que acaba ese cuerpo la vida se acaba. Estos seres no estarían vivos de ninguna manera tal como nosotros entendemos la vida. Hay que tener mucho cuidado con las palabras, porque no están vivos de ninguna manera.

¿De algún modo, la IA puede desarrollar emociones reprobables o positivas?

Es posible y es importante, pero no sabemos cómo hacerlo. A medida que las máquinas sean más poderosas, la mayor preocupación es el mal uso que puedan hacer de ellas los seres humanos. Se podrían aprovechar esas máquinas para la avaricia, el poder....Si creas máquinas con compasión es una manera de evitar que esto ocurra, pero estamos muy lejos.

¿Dónde estarían los límites éticos?

Los que queramos ponerlos nosotros a las máquinas. Ahora bien, ¿hay límites a la inteligencia? Esa es la cuestión. De momento, no sabemos cómo crear máquinas que sean tan inteligentes como nosotros. Los límites éticos son muy importantes, pero eso requiere un debate social. Ya ha habido varios intentos de poner las bases de los principios, como la Declaración de Montreal, de 2016. Fue la primera de todas porque, desde entonces ha habido otros documentos. Ahora, lo importante es que lo que se ha plasmado en ellos adquiera rango de ley.