Virginia Eubanks: “La tecnología es todo menos neutral”

Los algoritmos no son inocentes, castigan a los más desfavorecidos y cronifican la pobreza, según esta escritora estadounidense

Virginia Eubanks, autora de "La automatización de la desigualdad"
Virginia Eubanks, autora de "La automatización de la desigualdad" FOTO: Cristina Bejarano La Razón

Virginia Eubanks, nacida en Albany (Nueva York) en 1972, vivió en carne propia lo que te puede pasar cuando la tecnología la toma contigo. Después de que su marido fuera asaltado por un grupo de vándalos, su seguro médico se evaporó del «sistema» y tardaría semanas en saber que la estaban investigando por un posible fraude. Algún algoritmo la señaló como sospechosa y le reclamaban 60.000 dólares. En su libro «La automatización de la desigualdad» (Capitán Swing), explica de manera brillante cómo los métodos informáticos avanzados supervisan y castigan a los más pobres en EE UU. Según Eubanks, detrás de este “lavado matemático” que ofrece una fachada de neutralidad al “big data” se esconden a decisiones muy cuestionables desde el punto de vista ético.

¿No es neutral la tecnología?

Para nada. No es inocente y nuestra insistencia en verla así impide que nos demos cuenta de que son herramientas al servicio de decisiones políticas. No se limitan a vincular una ayuda social con el receptor adecuado, más bien sirven de coartada para decisiones difíciles como quién no merece una casa después de diez años viviendo en la calle o quién debe perder la ayuda para la manutención de sus hijos.

¿Sirven para justificar un capitalismo no regulado?

Totalmente. Son una forma de racionalizar las políticas de austeridad y, al mismo tiempo, las perpetúan. Un ejemplo que pongo en el libro es lo que ocurrió en Indiana en 2006. El gobernador hizo un contrato por 1.3 millones de dólares con varias tecnológicas para acabar con la atención personalizada de trabajadores sociales y automatizarla. El resultado del nuevo sistema fue una denegación de ayudas por valor de un millón de dólares durante los tres primeros años. Un aumento del 50%. Hubo miles y miles de personas que se quedaron sin asistencia. Lo curioso fue que el invento acabó costando mucho más. Fueron demandados por esas mismas empresas digitales cuando quisieron romper el contrato al ver que la cosa no funcionaba.

¿Qué usaban de coartada antes de los algoritmos?

En EE UU había unas reglas de elección muy discriminatorias. Hasta la Ley de Seguridad Social de los años 30 no había nada parecido a un Estado del Bienestar y las subvenciones solo llegaban a una parte mínima de la población, sobre todo a viudas blancas. Nada de padres solos o personas de color. En las décadas de los 60 y 70 se empiezan a tumbar en los juzgados estas leyes por anticonstitucionales y es cuando, curiosamente, empiezan estas herramientas electrónicas supuestamente neutrales. Justo cuando el sistema empezaba a abrirse.

En EE UU parece que el éxito es una obligación. Si no triunfas, es porque no quieres o tomas malas decisiones.

Solemos individualizar hasta el extremo problemas sociales. En Los Ángeles la afirmación que está más extendida es que la gente vive en la acera porque lo ha elegido o se lo merece. Da igual que esté clarísimo que el problema de la vivienda es una consecuencia directa de las políticas, la gentrificación, la recesión, prácticas inmobiliarias depredadoras... Ahora el condado de LA tiene 65.000 personas sin techo, el 75% sin acceso a albergues. ¿Es que se han equivocado todos? Esto es un problema estructural.

¿Es un tema de republicanos y demócratas?

Sería maravilloso, pero no. En la Administración Nixon, conocida como la de “la ley y el orden”, hubo un aumento sustancial del escrutinio; más tarde, Reagan creo un relato sobre la “reina del subsidio”, una madre negra que decide no trabajar y tener hijos para vivir de las ayudas sociales. Y Bill y Hillary Clinton basaron parte de sus campañas en atacar a la clase pobre trabajadora que, supuestamente, vivía del Estado.

¿El “big data” es el fin de la empatía?

Creo que sobre todo nos ofrece una vía de escape, nos evita afrontar la empatía. Hace más falta inversión, no más neutralidad. Hay que ver a estas personas en su totalidad, y esas herramientas no lo hacen.

Parece que el sueño americano está muerto y enterrado.

Creo que solo fue posible excluyendo a la mayoría. Es como cuando dicen que Grecia fue la cuna de la Democracia, ¡pero si el 75% eran esclavos! Ja, ja. En EE UU nos contamos historias parecidas desde su fundación, lo excepcionales que somos, las posibilidades que hay aquí de prosperar... Todo se sostiene en la marginación de una vasta mayoría. Lo demás es un espejismo.

¿Qué opinión le merecen los ingenieros informáticos que crean esas herramientas?

He hablado mucho con ellos. Para mí sus intenciones no son tan importantes como el efecto que producen sus creaciones. No puedo ver lo que hay en sus corazones, me importa más el millón de personas que se quedan sin ayudas.

¿Qué le cuentan?

Muchos se muestran horrorizados cuando descubren cómo se usan algunas herramientas que ellos crearon con la mejor de las intenciones. Es un poco ingenuo por su parte, yo acabo siendo quien les pone un espejo delante. Están acostumbrados a imaginar soluciones inteligentes para problemas abstractos, no tienen en cuenta la gente a la que van a afectar.

Es un poco lo que ocurre con aquellos que inventaron los mecanismos para mantenernos enganchados a las redes sociales.

No es casualidad que los Mark Zuckerberg y los Elon Musk de turno procedan de entornos privilegiados y ahora quieran escaparse del planeta, en cohete o en esa nueva versión de “Second life”. El resto nos vamos a quedar a vivir en nuestros cuerpos, no tenemos intención de escapar a ningún sitio. Estamos comprometidos con nuestras comunidades.

Es interesante leer cómo acabó concluyendo que la discriminación digital no tiene que ver con la falta de acceso a la tecnología.

Un grupo de mujeres me abrió los ojos. No sentían que les faltaba acceso, al contrario, consideraban que esas herramientas digitales tenían demasiado acceso a su vida. Eran tecnologías muy punitivas. No querían clases de Excel, se quejaban de la tecnología a la que se enfrentaban en las oficinas de Asistencia Social, las cámaras que los policías instalaban en sus barrios... Todas dedicadas al control social.

¿Los que no piden ayudas escapan al control?

Ése es el tema. La mayoría de nosotros cree que la pobreza es una lacra que solo afecta a una pequeñísima parte de la población, cuando la realidad es que entre los 20 y los 64 años, el 51% de los estadounidenses estará en algún momento por debajo del umbral de la pobreza. Y el 64% recibirá ayuda estatal. El riesgo está en ver que la pobreza solo incumbe a los otros.

Dice que el Gran Hermano de Orwell ha fallado.

La preocupación de Orwell de que nos vigilarían como individuos no se ha cumplido. El control social en la era digital se ejerce en grandes grupos, no en personas. Siempre asumiendo que individuos similares se comporten igual en situaciones parecidas. Ahora vigilan, por ejemplo, a los militantes de Black Lives Matter. Es mucho más peligroso porque pueden mirar para atrás y buscar a personas que encajen con ese perfil, con ese comportamiento que han dibujado. Es más poderoso también; significa que todo lo que hayas hecho en tu vida puede ser sospechoso en retrospectiva.