El ganador del Nobel de Física renunció a su empleo en Google debido al peligro de la IA

Esta semana el Premio Nobel de Física lo recibieron dos pioneros de la inteligencia artificial, John Hopfield y Geoffrey Hinton, por el desarrollo de redes neuronales artificiales. Básicamente por sentar las bases de la IA. De hecho, uno de ellos, el propio Hinton, es considerado el “padre” de esta tecnología.

La investigación de Hinton en 2012 sentó las bases para las redes neuronales actuales. Tanto que un año después Google lo contrata como vicepresidente para desarrollar los hoy omnipresentes chatbots, pero en 2023, dejó su trabajo en el gigante para unirse a un grupo de críticos que hicieron y hacen sonar las alarmas sobre la tecnología.

En una entrevista el año pasado, Hinton dijo que anteriormente había pensado en Google como un “administrador adecuado” de la poderosa tecnología. Eso fue hasta que Microsoft se asoció con OpenAI para lanzar el modelo de lenguaje grande (LLM) GPT-4 de este último, que impulsa ChatGPT, a las masas.

Aunque no creía que la IA estuviera ni cerca de su apogeo en ese momento, el informático de 76 años sugirió que vio la luz con el acuerdo Microsoft-OpenAI.

“La mayoría de la gente pensaba que faltaba mucho. Y yo pensaba que faltaba mucho – afirmó Hinton un año atrás -. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no lo creo”.

Antes de dejar Google y unirse a personas como Elon Musk para firmar una carta abiertapidiendo una pausa en el desarrollo de la IA, Hinton acudió a los medios para advertir que el mundo había llegado a un “momento crucial” en términos de tecnología.

“Creo que es muy razonable que la gente se preocupe por estos problemas ahora – señaló Hinton en aquel momento -. Aunque no vaya a suceder en el próximo año o dos”.

Hinton, que ahora es profesor emérito de la Universidad de Toronto, ha dejado muy claro en los casi 18 meses que han pasado desde que dejó Google que cree que la IA puede escapar al control humano en cualquier momento, y una vez que lo haga, se puede desatar el infierno.

“Aquí estamos tratando con algo en lo que tenemos mucha menos idea de lo que va a pasar y qué hacer al respecto – señaló el científico durante una conversación con el comité del Nobel -. Me gustaría tener una especie de receta simple que diga que, si haces esto, todo va a estar bien. Pero no la tengo".

Considerado el principal “abogado” contra la IA por su sombría visión de la tecnología que ayudó a crear, Hinton dijo cuando habló con el comité del Nobel que estaba muy sorprendido de saber que había ganado el premio y que ni siquiera sabía que había sido nominado.

“Espero que ganar el Nobel haga más creíble mis advertencias cuando digo que estas cosas realmente entienden lo que dicen”, concluye Hinton.