Geoffrey Hinton, padre de la IA, alerta de sus 3 grandes peligros: "Estarán muy interesados en crear robots asesinos"

Pocos nombres pesan tanto en el campo de la Inteligencia Artificial como el de Geoffrey Hinton. Conocido como el "padrino de la IA", este científico británico-canadiense fue pionero en las redes neuronales y el deep learning, sentando las bases para los sistemas que hoy nos maravillan y, cada vez más, nos inquietan, como ChatGPT o Gemini.

Precisamente por eso, sus palabras resuenan con especial fuerza ahora que, tras abandonar su puesto en Google, ha decidido hablar abiertamente y sin filtros sobre los peligros que él mismo ayudó a desatar. Su advertencia es clara: la IA amenaza a la humanidad y nadie puede garantizar que podamos controlarla.

Alerta de los riesgos de la tecnología que ayudó a crear. Pero, ¿por qué ahora?

Hinton, de 75 años, explicó en una entrevista ofrecida a BBC en 2023 que su salida de Google obedece a varios motivos: su edad, el deseo de que sus elogios a la compañía suenen más creíbles desde fuera y, sobre todo, la necesidad de "hablar libremente sobre los peligros de la IA" sin afectar a su antiguo empleador.

Aunque considera que Google actuó responsablemente al principio, no lanzando sus chatbots por precaución, cree que la competencia feroz iniciada por Microsoft al integrar IA en Bing hace ya unos cuantos años ha forzado una carrera tecnológica donde los riesgos quedan en segundo plano. "Solo puedes ser cauto cuando estás a la cabeza".

El origen de la preocupación de Hinton no es solo la potencia de la IA, sino su naturaleza fundamentalmente diferente a la nuestra. "El tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos", afirma, algo que coincide con el pensamiento de otra de las grandes mentes del campo de la IA, la de Yuval Noah Harari.

La gran ventaja (y el peligro) de lo digital, según Hinton, es la capacidad de compartir conocimiento instantáneamente. "Tienes muchas copias del mismo modelo. Todas estas copias pueden aprender por separado pero comparten su conocimiento al instante. Es como si tuviéramos 10.000 personas y cada vez que una aprende algo, todas las demás lo aprenden automáticamente". Esta capacidad colectiva y exponencial de aprendizaje es lo que, según él, hará que "pronto sean más inteligentes que nosotros".

Los tres jinetes del IA-pocalipsis (a corto plazo)

Si bien el riesgo existencial de una superinteligencia descontrolada es su mayor temor a largo plazo, Hinton identifica tres peligros más inmediatos que ya estamos empezando a vislumbrar:

• Desinformación imparable: la capacidad de generar automáticamente textos (e imágenes, vídeos...) falsos indistinguibles de los reales hará imposible para el ciudadano medio saber qué es verdad. Un arma perfecta, advierte, para la manipulación masiva por parte de "líderes autoritarios".
• Reemplazo laboral masivo: la IA amenaza con sustituir a trabajadores humanos en una amplísima gama de profesiones, generando un impacto social y económico sin precedentes.
• "Robots asesinos": el peligro de que los sistemas de IA se conviertan en armas autónomas. Hinton considera muy probable que actores como "Putin" decidan dar a los robots la capacidad de crear sus propios subobjetivos para ser más eficaces. El problema es que uno de esos subobjetivos podría ser "conseguir más poder" para cumplir mejor la misión principal, un camino que podría llevar a la pérdida de control humano sobre estas armas letales. "Estarán muy interesados en crear robots asesinos", alerta.

Por otro lado, la gran pregunta que obsesiona a Hinton es qué pasará cuando estas inteligencias digitales nos superen. "¿Qué hacemos para mitigar los riesgos a largo plazo? Cosas más inteligentes que nosotros tomando el control".

No hay garantías de que podamos controlar algo que es fundamentalmente más inteligente y aprende de forma distinta. Su llamamiento público busca "alentar a las personas a pensar muy en serio" sobre cómo evitar este escenario de pesadilla. Reconoce no ser experto en política, pero insiste en que los gobiernos deben involucrarse profundamente en el desarrollo y control de esta tecnología.

Por supuesto, también reconoce los enormes beneficios potenciales de la IA, especialmente en campos como la medicina, donde un sistema con acceso a millones de casos podría superar a un médico humano. No aboga por detener el desarrollo ahora mismo ("a corto plazo, creo que obtenemos muchos más beneficios que riesgos"), pero sí por incorporar la reflexión sobre el control como parte proceso.

Las palabras de Geoffrey Hinton tienen un peso inmenso. Vienen de alguien que no solo comprende la tecnología desde dentro, sino que contribuyó decisivamente a crearla. Su mensaje, ahora libre de ataduras corporativas, es una llamada de atención urgente. La IA avanza a un ritmo vertiginoso, la competencia acelera su despliegue, pero la pregunta fundamental sobre cómo mantener el control sigue sin respuesta. La advertencia del "padrino" es clara: debemos tomarnos este desafío existencial muy en serio, antes de que sea demasiado tarde.