La primera cumbre internacional sobre IA alerta sobre sus "riesgos catastróficos"

Bletchley Park es una mansión victoriana situada en Buckinghamshire. A simple vista, parece un paraje idílico en plena campiña inglesa: tiene granja, un inmenso jardín e incluso un pequeño lago en su interior. Pero durante la Segunda Guerra Mundial se convirtió en el centro de operaciones donde 10.000 criptoanalistas descifraban a diario los mensajes cifrados con los que se comunicaba el ejército alemán. A día de hoy está abierta al público y se puede ver el despacho desde donde Alan Turing descifró el código nazi Enigma y cambió el curso de la historia. Considerado el padre de la computación planteó: “¿Pueden pensar las máquinas?”.

Ocho décadas más tarde, en pleno auge del ChatGPT y Bard - sistemas capaces de producir textos, videos e imágenes realistas- representantes de 29 países, científicos y ejecutivos de las grandes tecnológicas como x (Twitter) y Meta (Facebook) se dan cita en el mismo lugar en la primera cumbre internacional sobre Inteligencia Artificial (IA) con el Gobierno británico como anfitrión.

La cita histórica de miércoles y jueves tiene como objetivo establecer una colaboración global en una carrera tecnológica que fascina y preocupa a partes iguales y que está cambiando la manera de vivir e incluso de ejecutar las guerras. En el actual conflicto entre Israel y Hamás se han producido oleadas de desinformación en las redes sociales. Google ha declarado que Irán está detrás de una red de cuentas falsas que promueven narrativas anti israelíes engañosas. Los `probots´ rusos e iraníes están publicando material, reproducido millones de veces, para dividir a las sociedades occidentales.

Durante la primera jornada de ayer, los 29 países firmaron la Declaración de Bletchley donde señalan las grandes oportunidades pero también los “riesgos importantes en ámbitos como la ciberseguridad y la biotecnología por lo que existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o no”.

“Lo más relevante de este encuentro, en mi opinión, es la idea de que no debemos solo concentrarnos en los riesgos futuros, sino en los de hoy en día, que no solo se refieren a la seguridad nacional o a la amenaza terrorista, sino a riesgos y amenazas reales para nuestra sociedad respecto a la salud mental o a casos de discriminación”, defendía Carme Artigas, secretaria de Estado de Digitalización y co presidenta del Órgano Consultivo de Alto Nivel de la ONU sobre Inteligencia Artificial.

El hecho de que potencias como Estados Unidos, China o la Unión Europea hayan firmado el documento evidencia la necesidad de acordar una respuesta conjunta ante un desafío histórico. Ningún país quiere quedarse atrás en la carrera tecnológica porque de ello depende ahora su seguridad nacional.

Pero a medida que la IA irrumpe en la conciencia pública, algunos investigadores ya están pidiendo una pausa en su desarrollo. Coincidiendo con el inicio de la cumbre, 250 expertos pidieron un tratado internacional para evitar amenazas contra la humanidad. Entre ellos se encuentra el profesor Yui Zeng, uno de los principales académicos de China, y el informático canadiense y Premio Turing 2018 Yoshua Bengio, considerado uno de los `padres de IA´, quien teme el ritmo de desarrollo y advierte que el riesgo de extinción de la tecnología es comparable al de una guerra nuclear.

El primer ministro británico Rishi Sunak quiere posicionar a la Global Britain post Brexit como el `salvaguarda´ ante los riesgos de IA. Su intención es que esta sea la primera de una serie de cumbres internacionales periódicas sobre IA, siguiendo el modelo establecido por las conferencias del G7, el G20 y la COP.

Downing Street no ha logrado contar con personajes clave como el presidente de Francia, Emmanuel Macron, o el canciller alemán, Olaf Scholz. No obstante, sí están presentes la presidenta de la Comisión Europea, Ursula von Der Leyen, el secretario general de Naciones Unidas, Antonio Guterres o la vicepresidenta estadounidense Kamala Harris quien ayer anunció la creación de un Instituto de Seguridad de IA para abordar “todo el espectro de riesgos”, no sólo los más extremos. Este lunes, el presidente estadounidense Joe Biden firmó un decreto que obliga a las tecnológicas a notificar al Gobierno cualquier avance que suponga un “riesgo grave para la seguridad nacional” convirtiéndose así en el primer país en regular sobre esta cuestión.

Los representantes de la industria se muestran no obstante más optimistas y están reticentes ante una regulación restrictiva. Nick Clegg, ex viceprimer ministro del Reino Unido, que ahora es presidente de asuntos globales en Meta (Facebook), aseguró que la IA estaba atrapada en un “gran ciclo de exageración” generando miedos infundados al igual que pasó en la década de 1980 con los videojuegos. “Había pánico moral respecto a la radio, la bicicleta e Internet”, matiza.

Aunque Elon Musk, quien justo hace ahora un año compró Twitter por 42,000 millones de dólares, no opina igual. El magnate quiere llevar la tecnología a su límite absoluto, desde los viajes espaciales hasta los vehículos autónomos, pero pone límites a la IA a la que ya en 2014 calificó como la “mayor amenaza existencial” para la humanidad, comparándola con “convocar al demonio”. Su principal temor es que, en manos equivocadas, si la IA avanza, podría superar a los humanos y significar el fin de la humanidad, lo que se conoce como `La Singularidad´.