“Los partidos políticos compran información sobre quienes no les votan o están indecisos”

Desde la BBC a casi todos los periódicos nacionales, pasando por colaboraciones en numerosas radios, casi una decena de premios, tres libros publicados por Planeta… y la cuenta sigue. Así es el currículum de Marta García Aller, la autora de Lo imprevisible. Este ensayo, que destripa con precisión matemática la naturaleza de los algoritmos, es imprescindible para comprender qué es exactamente esta herramienta de la tecnología.

“El libro iba a salir el 30 de marzo, pero finalmente salió hace dos semanas lo que permitió actualizarlo en mayo, con la desescalada. Y aprovechar el entornos de noticias falsas, aplicaciones de control de población y de análisis remoto para darle una orientación aún más actual al libro”, explica García Aller, en una conversación telefónica. Hay tecnologías y disciplinas científicos que han determinado décadas y hasta siglos. Ocurrió con la astronomía, con la física atómica, pasó lo mismo con la genética y con internet. Ahora es el turno de los algoritmos.

“Creo que realmente no somos conscientes de la importancia de los algoritmos. No se trata de estar a favor o en contra. Son la tecnología que más va a impactar en el siglo XXI y no somos conscientes del poder que tienen… que más que tenerlo ellos, lo tienen las empresas que están detrás, que son humanos en ultima instancia. Gracias a ellos se persigue, entre otras cosas, anticipar la conducta humana”, afirma García Aller. “A veces esto no nos parece nada invasivo, como cuando vamos en el coche y nos señalan que habrá un atasco, eso es un algoritmo. Si queremos comprar algo y lo hacemos a través del móvil, cuando conseguimos un avance científicos gracias a Big data, que se consigan avances vinculados a la salud tampoco nos parece un problema. Creo que el problema es un malentendido que pensamos que las máquinas nos van a controlar y son los humanos los que los utilizan”.

Y claro, como explica en su libro, los humanos tienen su propia agenda. Twitter, por ejemplo, no está interesado en lo más mínimo en la veracidad del contenido sino en su viralidad, en la repercusión que tenga. De ahí que su algoritmo priorice aquellos tuit que generen polémica sin tener en cuenta la fiabilidad del mismo. “Los algoritmos son como los churros: para llegar a buen puerto, necesitan que la masa (los datos) sean buenos. De lo contrario sale un algoritmo racista, sexista o manipulador y por ello hay que exigir transparencia sin importar a qué nos dediquemos, ya que van a cambiar el futuro. Y hay que entenderlos para saber cómo impactan nuestra vida”.

Controlar la pandemia

El ejemplo más reciente es el uso de algoritmos para controlar los desplazamientos y la identidad de la sociedad mientras se producía la cuarentena. Diferentes países como Corea, China, Japón, Singapur, Alemania, los han usado de acuerdo a sus propias normas, con un mayor o menor respeto por la privacidad. Y ese es uno de los ejes principales de Lo Imprevisible.

“La privacidad va a ser uno de los grandes desafíos que deberemos reinventar en los próximos años. Hay implicaciones enormes de empresas que están recopilando enormes cantidades de datos y hay que tener cuidado con ello, sin dejar de utilizarlos, ya que son muy necesarios”, confirma García Aller. “Es como usar los vehículos sin tener el código de circulación. Estamos construyendo los semáforos, los pasos de ceda y las aceras, al mismo tiempo que conducimos. Los datos pueden ayudar a que las empresas nos ofrezcan mejores productos, más personalizados, pero también hay otra cara en este moneda. Si nos descargamos una app gratuita el primer problema es que el producto somos nosotros. Pero esto también puede convertirse en una herramienta para manipular nuestros gustos: todavía no sabemos si el algoritmo nos recomienda algo porque sabe que nos va a gustar o nos gusta porque nos lo recomienda el algoritmo”.

Si los algoritmos son capaces de influir en nuestro consumo, ¿podrían también ser determinantes en política? “Exactamente”, responde García Aller. “Esto cambia la forma que tenemos de consumir, pero también la forma que tenemos de votar y el desafío que esto supone para las democracias. Principalmente, teniendo en cuenta que los partidos políticos pueden comprar información sobre sus votantes y también sobre aquellos que no les votan o están indecisos. Puede que no sea para convencerles que cambien el voto sino para decirles que no vayan a votar”.

Y es entonces cuando llega la instancia más comprometida en cuanto a los algoritmos y de la que más debemos aprender como ciudadanos: nuestra forma de pensar. ¿Pueden los algoritmos decirnos qué pensar sobre otras personas? En el actual contexto de crisis racial, esta herramienta podría ser de gran ayuda. O todo lo contrario…

“Creo que los algoritmos, tal y como los estamos usando ahora, son más fuente de conflicto y polarización que de apaguaciguamiento”, confirma García Aller. “En redes sociales lo que se fomenta es lo que capta más la atención y hay dos formas de hacerlo. Una es que coincida con nuestra forma de pensar, para que le demos like, porque nos gusta que nos den la razón y esto el algoritmo lo sabe y se preocupa de darnos contenido acorde a ello. La otra opción es mostrarnos contenido que nos indigne o con el que estemos por completo en desacuerdo. Estamos creando gente intolerante a fuerza de darle la razón o indignándola. Cuando hay muchísima información que no está en los extremos. Y aquí es cuando surge lo de la aldea global, que cada vez se hace más aldea y menos global. Si los algoritmos nos enseñan solo lo que es acorde a nuestra forma de pensar, no nos abre más la mente, sino que es lo que vemos en un muro, resulta ser un muro de verdad, una construcción que divide. Los algoritmos calculan lo que va a llamar más tiempo la atención y en el fondo es lo que les interesa: que pasemos más tiempo delante de la pantalla. No les interesa que estemos más informados. Y esto es un desafío para los medios también. Y hasta que no diferenciemos el muro de una red social del de un medio de información, no vamos a avanzar”.

¿Para qué entrevistar a neurocientíficos y a filósofos si los algoritmos son herramientas matemáticas? La respuesta de García Aller es esclarecedora para nuestra futura relación con lo algoritmos.

“La incertidumbre que experimentamos con la pandemia ya estaba antes del COVID-19 y el cerebro humano es intolerante a demasiada incertidumbre y por ello nos contamos historias. Hablé con neurocientíficos y me decían que a veces el cerebro prefiere una media verdad o una mentira a seguir en la incertidumbre. Es importantísimo darse cuenta que vamos a seguir viviendo en tiempos de cambios o de incertidumbre y eso nos puede servir para comprender mejor la realidad. Hay cambios constantes que nos desconciertan, ¿qué va a hacer de mis hijos, de mi empleo? Y no es la primera vez que pasa, sin ir más lejos en España. Hemos vivido momentos tremendos en los últimos 100 años. La diferencia es que ahora la estamos transmitiendo en tiempo real. Y eso en vez de generar más tolerancia crea más preocupación. Por eso lo imprevisible, es lo que nos quedará a nosotros, lo rutinario, lo harán las máquinas. Nosotros somos mejores que las máquinas en enfrentarnos a los imprevistos y en entender a otros humanos. La capacidad de ser estúpidos también nos hace imprevisibles a los robots, y no somos tan racionales como pensamos. Los robots serán la herramienta que usaremos y no es ni buena ni mala, es importante saber utilizarla”.