Los expertos reclaman límites a la Inteligencia Artificial en Metafuturo: "Tenemos que aprender qué es capaz de hacer la IA"

"Ante un cierto miedo, un vértigo a pensar que puede pasar en el futuro", Silvio González, vicepresidente ejecutivo de Atresmedia Corporación, ha inaugurado en el Ateneo de Madrid la segunda edición de Metafuturo, evento organizado por Atresmedia que se celebra desde este lunes hasta el jueves 19 de octubre en este icónico palacio de la capital, subrayando que "conviene pararse, reflexionar, no acobardarse por las dificultades que puede traer este futuro". Por el contrario, González ha abogado por "afrontar el futuro, reflexionar sobre ello e intentar extraer todas aquellas cosas que pudiera obtenerse y también valorar los riesgos".

"De la mano de expertos, políticos y empresarios, es un foro que nos va a permitir conocer las nuevas tecnologías que están aquí, el efecto que tiene sobre nosotros, cómo tendremos que comportarnos respecto de ellas, qué tipo de limitación queremos", ha asegurado el vicepresidente ejecutivo de Atresmedia Corporación. Ana Cuesta, periodista de La Sexta, ha presentado la primera mesa redonda de esta segunda edición de Metafuturo recordando que "la Unión Europea ultima la ley de inteligencia artificial, la primera que habrá en todo el mundo". Cuesta ha dado la bienvenida a Chema Alonso, director digital de Telefónica, y a David Rowan, experto en IA y fundador y CEO de la revista Wired, y a la moderadora de la primera mesa de debate, la periodista de La Sexta Mamen Mendizábal, en la que han conversado sobre los riesgos y oportunidades de la Inteligencia Artificial (IA).

Durante el coloquio, Alonso ha profundizado en la complejidad de la Inteligencia Artificial subrayando que "lo difícil es saber qué ha aprendido el algoritmo". En un momento en que la IA se está integrando rápidamente en numerosos aspectos de la vida cotidiana y empresarial, comprender en profundidad su funcionamiento y limitaciones se ha convertido en un desafío significativo incluso para los expertos. Ante este reto, Alonso ha reconocido que el 70% de su tiempo lo pasa "explicando a los directivos que la IA no puede gestionarlo todo".

A pesar de las promesas y potencialidades de la IA, es esencial tener en cuenta que no es una solución universal. Los humanos aún juegan un rol decisivo en la toma de decisiones, la estrategia y la implementación efectiva de esta nueva tecnología. Tras mostrarse crítico con los problemas legales que está suponiendo el desarrollo de la Inteligencia Artificial, Rowan ha señalado en Metafuturo que "el reto que veo es que nos estamos metiendo a toda velocidad en esto sin tener una conversación formada, una ética y estrategia de qué queremos al respecto de esto".

El experto británico se ha mostrado cauto con el desarrollo de la Inteligencia Artificial y ha avisado que afectará a todas las áreas: "La IA va a afectar a la economía, la política, la sociedad... es la primera tecnología que decide cómo debería implementarse, es autónoma. Y tiene sus propias ideas". Rowan ha señalado que el avance de esta tecnología está sobrepasando a todo, incluidas las propias empresas que desarrollan las Inteligencias Artificiales: "Ni la gente que gestiona las empresas de IA sabe lo que sucede dentro de la 'caja negra'".

Sobre los riesgos de la IA, Rowan ha puesto como ejemplo que "el partido progresista en Eslovaquia supuestamente iba a comprar votos y esto sucedió antes de las elecciones, pero las grabaciones que se escucharon fueron sintéticas, esa conversación no se produjo en la vida real y eso afectó a las elecciones". Rowan ha recordado que "también pasó en Sudán pidiendo a los ciudadanos emprender acciones contra el estado". "La IA es un riesgo real y no me quiero imaginar en elecciones como en Estados Unidos. Se puede hacer una propaganda falsa. Es aterrador si uno cree en la verdad y en la democracia", reflexionaba el CEO de la revista Wired.

En la charla Alonso ha enfatizado la importancia de una comprensión realista y profunda de la IA. "Tenemos que aprender qué es capaz de hacer la IA y cuál es el impacto global. Hay que pensar dos veces". Este consejo resalta la necesidad de una evaluación cuidadosa y considerada, no solo de las capacidades técnicas de la IA, sino también de sus implicaciones éticas, sociales y económicas en un contexto más amplio. Rowan ha continuado preguntado "quién piensa sobre los límites y los controles a esta tecnología".

Ante semejantes retos, Rowan se ha mostrado optimista señalando algunos aspectos positivos que está trayendo la IA: "Uno de los motivos para tener esperanza en la IA es que vamos a poder coger ingentes cantidades de datos, por ejemplo, en la medicina. Vamos a detectar las cosas mucho antes y de forma personalizada. También ocurrirá en la agricultura. Habrá cultivos mucho mejores y adaptados al cambio climático. Incluso en la educación, abordando debilidades de una persona sin que suponga un problema para la profesora".

Tras estas reflexiones, en la segunda mesa del día la consejera delegada de la aseguradora AXA España y presidenta de la Fundación AXA, Olga Sánchez, ha sido entrevistada por Mónica Carrillo, periodista de Antena 3. Sánchez ha compartido las conclusiones de un informe anual realizado por el grupo AXA desde hace una década, donde se identifican los mayores riesgos futuros, incorporando las percepciones tanto de expertos como del público general. El cambio climático ha sido identificado "unánimemente como el principal riesgo", ha explicado.

Durante su intervención, Sánchez ha ofrecido un recorrido profundo por los entresijos de la ciencia que sustenta la industria aseguradora. "Detrás de la aseguradora, hay una ciencia que consiste en estudiar y evaluar riesgos con datos empíricos del pasado y modelos matemáticos". Esta meticulosa evaluación permite a los profesionales anticipar y calcular la probabilidad de la ocurrencia de riesgos, un proceso respaldado por un extenso corpus de datos. "Somos vulnerables. Hay que saber cómo actuar", ha indicado la consejera delegada de AXA España.

La confianza, la credibilidad y un entorno jurídico equitativo se destacan como pilares para integrar eficazmente la IA en nuestra cotidianidad. "Hay que desarrollar IA que pueda ser utilizada por clientes y empleados de forma segura", ha remarcado Sánchez. Los colegios y las familias juegan un rol crucial en preparar a individuos para navegar en un mundo donde la IA estará presentes en muchos ámbitos de nuestra vida. Sánchez ha enfatizado que "educación y valores son esenciales para usar estas herramientas".

Más allá de la Inteligencia Artificial, la emergencia migratoria también es un asunto muy importante para la mayoría de gobiernos dentro de la Unión Europea. En Metafuturo, este asunto ha sido abordado en una charla entre Paula Farias, expresidenta de Médicos Sin Fronteras, y el europarlamentario del PSOE y exministro de Justicia, Juan Fernando López Aguilar. Farias ha recordado en la gestión de los flujos migratorios por parte de la Unión Europea "todo empezó a cambiar" hace nueve años: "Nosotros empezamos en 2014 cuando Italia pidió ayuda a la UE con 'Mare Nostrum' y Europa le dijo a Italia que no. Entonces pusieron en marcha la 'Operación Sofía' que cambia de la búsqueda y el rescate al mandato del control de fronteras. En aquel momento Médicos Sin Fronteras dijo que se planteaba un escenario de desastre humanitario porque los rescates de 'Mare Nostrum' ya no se iban a producir".

La expresidenta de Médicos Sin Fronteras también ha sacado a relucir el término "externalización de fronteras": "¿Qué es la externalización de fronteras? Pagarle a un país para que asume tus responsabilidades y hay un elemento de que asuma tus contradicciones. Hay países que sabes que van a emplear metodologías que vulneran derechos, que van a contener la frontera a tiros, que van a acoger a las personas en condiciones indignas. Europa está pagando esa actividad y es un poco lamentable". Aguilar se ha mostrado de acuerdo con la reflexión asegurando que "el derecho comunitario de protección y asilo es una obligación de todos los Estados miembro". El europarlamentario ha enfatizado que la gestión migratoria "es el tema en el que los gobiernos de la Unión Europea están más en desacuerdo con diferencia": "He llegado a escuchar en reuniones en el parlamento europeo que 'por encima de mi cadáver vas a traer a mi país a migrantes que llegan al tuyo'".

Durante esta jornada también se han abordado las implicaciones de la IA en la energía, la conducción y las nuevas tecnologías con la intervención de Teresa Riesgo, secretaria general de Innovación del Ministerio de Ciencia, Jesús Alonso, presidente de Ford España, y José María Solana, director de Cepsa Química. Por la tarde se podrán seguir por streaming la intervención sobre "IA, salud e impacto social" de Miguel Luengo, experto en IA para el impacto social y la salud, y la mesa redonda sobre "IA, ciencia, salud y bienestar" en la que participará Pedro Duque, astronauta, ingeniero agrónomo y ex ministro de Ciencia, y Asier Unitici-Broceta, director del laboratorio Instituto de genéticas y cáncer de la Universidad de Edimburgo.

Para finalizar la primera jornada de la segunda edición de Metafuturo, Lorena García moderará conversaciones con Isabel Orbe, directora general de la Asociación Española contra el Cáncer, Lorenzo Vinierga, director general de Schuawe Farma Ibérica, y con José Carnero, presidente de la fundación "Uno entre cien mil", para seguir reflexionando sobre un futuro incierto lleno de posibilidades.