Estamos en el año 802, en Medio Oriente y un matemático, de los más famosos de la historia, dice una frase ante sus alumnos. Una frase de Perogrullo que sus alumnos se quedan perplejos: «He descubierto que el objetivo final de cualquier cálculo es siempre encontrar un valor numérico concreto». Obvio, ¿verdad? En absoluto. Es el momento en que la humanidad dio el salto de calcular cosas a calcular conceptos. El matemático era Al-Juarismi y de sus enseñanzas proviene el término algoritmo, el núcleo de la inteligencia artificial.

Madhumita Murgia, al igual que los algoritmos, también siguió unos pasos muy específicos, aunque la llevaron a un resultado inesperado. Estudió Biología en Oxford y trabajó en vacunas contra el VIH, luego se especializó en periodismo científico. En esta área ocupó el puesto de editora en «The Telegraph», luego en «Wired» y más tarde en «Financial Times», donde se convirtió en la primera editora de IA en el mundo. Por ello no es extraño que publicara un libro, «La cara oculta de la IA» (Omen) sobre el impacto de esta tecnología en nuestra vida. ¿Otro más? No. Al igual que su puesto, es el primero que habla de lo humano. La IA es solo la cosa, mientras que el concepto, al igual que la frase de Al-Juarismi, es el humano. Y por eso hablamos con Murgia.

Ha recorrido distintos lugares del mundo para mostrar cómo la IA impacta en la vida cotidiana de la gente común. ¿Qué historia fue para ti la más reveladora a nivel humano?

La primera fue Ashita Singh, que es doctora en la India rural. Y lo que realmente me gustó de esa historia es cómo es independiente como persona, como médica, y cómo practica la medicina de una manera muy empática. Y me gustó ver cómo integró la tecnología a su trabajo, pero cómo aún preservó las cosas que son lo más importante en nuestra relación con los médicos. Así que me gustó ver esa historia como una especie de colaboración quimérica entre humanos y la inteligencia artificial.

En el libro aseguras que esta tecnología está cambiando nuestra humanidad, por así decirlo, ¿a qué se refiere?

Cuando digo que la IA está cambiando lo que significa ser humano, hay un par de razones diferentes. Creo que, en general, cualquier tecnología que adoptemos como parte de nuestras vidas cambia cómo vivimos, cómo trabajamos, cómo nos comunicamos. Y no es sólo que cambia la forma en que hacemos esas cosas, sino que también impacta nuestros modelos de pensamiento. Por ejemplo, hablar contigo a la distancia o enviarte un audio probablemente significa que lo que estoy diciendo es diferente, si lo escribiera a mano en vez de en un ordenador. Simplemente pensamos a diferentes velocidades cuando usamos diferentes modos. Y así, incluso una tecnología como la de escribir cambia la forma en que nos comunicamos ideas y quizás incluso las ideas ellas mismas. Y creo que algo como un chatbot o un generador de IA, un productor de texto o un productor de imágenes, es un paso más adelante. Porque todo lo que realmente estamos haciendo es promoverlo con nuestras ideas.

¿Y eso qué impacto puede tener en nuestras relaciones sociales?

En lugar de acudir a otros humanos en momentos de problemas, preocupación o necesidad, probablemente empezaremos a tratar cada vez más con sistemas de inteligencia artificial. Y creo que eso va a tener un gran impacto en relaciones interpersonales, en nuestro sentimiento de comunidad. Esto, de alguna manera, aumenta nuestra codependencia con esta tecnología. Se convierte en una extensión de nosotros. Entonces, cuando digo que cambia lo que significa ser humano, quiero decir que estamos evolucionando para ser más dependientes de estas tecnologías.

Presenta casos de personas directamente afectadas por IA, como con el deepfake pornográfico o familias señaladas por algoritmos predictivos de su salud. ¿Qué aprendiste al hablar con quienes viven estas consecuencias en primera persona?

Mucho de eso se basa en la confianza. ¿Confiamos en estos sistemas tanto como lo haríamos en los humanos? ¿Sentimos que estos sistemas nos entienden mejor que otros humanos? Lo que he aprendido de hablar con gente que ha sufrido esto es que casi están avergonzados de que algo así haya sucedido porque saben que no es real, y técnicamente no deberían preocuparse, porque esta persona no es ellos, esta imagen o este vídeo no es ellos, pero aun así lo es, se sienten asustados, se sienten como si tuvieran que esconderse de ello. Quería mostrar cuán confuso puede ser que un algoritmo cambie tu vida.

Hablas del concepto de «colonialismo de datos», donde las vidas humanas se convierten en flujos de información explotados por grandes empresas. ¿Cómo explica esta metáfora a alguien que solo ve la IA como progreso tecnológico?

Para mí empezó a ser muy claro cuando vi estos patrones que menciono en el libro. Hay compañías muy ricas que están recogiendo datos y construyendo algoritmos usando poblaciones muy vulnerables, muchas del sur global. Así que puedes ver los patrones geográficos y socioeconómicos. Para alguien que ve a la inteligencia artificial como una forma de progreso tecnológico, lo que creo que les pediría es ver a quién beneficia y a quién no cuando se trata de aplicaciones de IA. Estas tecnologías terminan utilizándose en escuelas de la India rural, en hospitales de Europa del Este o en lugares muy inesperados. Por lo tanto, la narrativa debe trasladarse a los lugares donde se utilizan para que podamos observar las consecuencias en tiempo real y también las repercusiones imprevistas y retardadas. Esto influirá en la evolución de la tecnología, pero también en su impacto como comunidad global.

¿Cree viable una «constitución global» para la IA? ¿Quiénes deberían intervenir en ella?

En términos de quién debería liderar la conversación global sobre la regulación y la ética de la IA, creo que, como la regulación y la ética de cualquier nueva tecnología o ciencia que se hace masiva y con gran potencial de impacto tiene que ser multidisciplinar. Un buen ejemplo de cómo esto se ha hecho en el pasado es la fertilización in vitro (IVF). En el Reino Unido se creó una comisión dirigida por un filósofo llamado Mary Warnock. Allí había biólogos, químicos, expertos en áreas relevantes de la ciencia, pero también padres y familias, todos ellos crearon un marco ético.

En su libro señala que la IA no solo reemplaza tareas, sino que redefine derechos básicos, como el acceso a la salud o la justicia. ¿Cree que los gobiernos entienden la magnitud de este cambio?

Cuando recurrimos a la inteligencia artificial en lugares como la salud y la biología estamos intentando usarla para extender nuestro tiempo de vida. No es ilógico pensar que, en algunos años no podamos hacer salud sin la inteligencia artificial porque necesitaremos a la inteligencia artificial para decirnos cómo nos comportamos de manera diferente, para evitar ciertas enfermedades o para ayudar a diagnosticar una enfermedad en un amante temprano para que podamos apoyarlos a través de ella. En ese momento nos preguntaremos cómo era la vida antes de usar la IA.

A menudo la narrativa sobre IA se centra en Silicon Valley. Sin embargo, su libro se detiene en las periferias, en quienes sufren el coste. ¿Por qué era importante salir de ese eje dominante para contar esta historia?

La razón por la que he quitado a Silicon Valley de esta narrativa es porque creo que, mientras la IA se está inventando en estos centros, Silicon Valley, posiblemente partes de China, tal vez pequeñas zonas de Europa, está siendo desarrollada y usada por personas de todo el mundo, de todos los tipos, de diferentes orígenes, diferentes edades, diferentes lugares de trabajo, diferentes culturas. Y, para mí, viajar por el mundo y encontrar estas historias en el sur de Argentina, en Bulgaria, en Nairobi, en India, en Ámsterdam o en Roma, la razón por la que busqué en estos lugares fue para mostrar cómo las conversaciones que tenemos sobre la tecnología son tan unidimensionales. Lo vemos todo desde una perspectiva occidental, principalmente estadounidense. Y así es también cómo piensan los diseñadores y desarrolladores de la tecnología. Y no es su culpa, porque es su esencia. Uno construye desde su propia perspectiva, utilizando su propia lente, sus propios sesgos, lo cual es completamente inevitable.

En «La cara oculta de la IA» Murgia huye del algoritmo y se centra en el humano. Es un libro que debería convertirse en el manual de los programadores y en el primer paso hacia una constitución global de la IA. Pero, al mismo tiempo, es uno de los primeros libros que relatan todo lo humano que hay en un bit de información. Y su impacto.