Yoshua Bengio, padre de la IA, y su recado a todos los países del mundo: "Los gobiernos necesitan monitorear lo que hacen"

Existen tres figuras fundamentales en el desarrollo de la inteligencia artificial cuyos nombres están a la orden del día: Geoffrey Hinton, Yann LeCun y Yoshua Bengio. Los tres han sido vitales en los primeros pasos de esa tecnología y hoy en día su opinión sigue siendo capital para valorar su evolución.

Eso sí, entre ellos tienen puntos de vista contrapuestos: mientras Bengio y Hinton abogan por un punto de control necesario en el desarrollo de la inteligencia artificial ante sus peligros LeCun no cree que dicha ciencia pueda alcanzar por el momento una evolución que ponga en riesgo a la humanidad.

Priorizar la seguridad sobre la utilidad

La creencia de Yoshua Bengio en la defensa de su postura es tal que no duda en manifestarla en cada intervención que realiza. Así lo hizo en mayo de 2023 en una entrevista concedida a la cadena británica BBC News. En ella, Bengio apuntó la necesidad por parte de los gobiernos de establecer un marco de control para la IA similar al existente en otros campos: “Los gobiernos necesitan monitorear lo que hacen, necesitan poder auditarlos, y eso es lo mínimo que hacemos para cualquier otro sector, como la construcción de aviones, automóviles o productos farmacéuticos", destacó.

“Los gobiernos necesitan monitorear lo que hacen, necesitan poder auditarlos, y eso es lo mínimo que hacemos para cualquier otro sector, como la construcción de aviones, automóviles o productos farmacéuticos"

Para Bengio, ganador del premio Turing en 2018, se lamentaba en su intervención de no haber tenido la previsión necesaria de cuidar más el plano de la seguridad frente al de la utilidad en sus primeros estudios sobre inteligencia artificial.

Ante ese reconocido error por parte del científico, Bengio defendió en su intervención la necesidad de formación en materia de conducta humana para quienes están vinculados a proyectos de desarrollo de IA: “Las personas cercanas a estos sistemas necesitan algún tipo de certificación. Necesitamos formación ética. Por cierto, los informáticos no suelen recibirla”, concluyó Bengio poniendo el foco sobre ello.

Que expertos como Bengio, fundamentales en los compases iniciales de la IA, reconozcan carencias en su concepción y busquen “facilitar” soluciones a gran escala a los estados debería servir como piedra de toque antes de que pueda ser tarde para poner bajo control una tecnología cuyo peligro es señalado por actores tan relevantes en su campo.