A un paso de la dictadura digital

Amediados de este año China anunciaba la puesta en marcha de Cyberspace ID, un documento oficial donde se centralizará toda la información de cada ciudadano, desde los datos personales y número de teléfono a cualquier movimiento que se haga online (compras, opiniones). El objetivo es que las personas puedan acceder a diferentes servicios públicos y la motivación es la seguridad y protección de los datos. Sin embargo, desde el resto del mundo se mira con recelo esta maniobra y se sospecha que pueda emplearse como una fórmula más de control. Junto al programa de crédito social podría abrir la puerta a casos en los que se suspenda a un ciudadano el acceso a internet por comportamientos que el gobierno no considere adecuados. Y eso implicaría no acceder a servicios básicos.

Los pasos hacia la identificación digital no son exclusivos de China. India está implantando un modelo similar bajo la sospecha de riesgo de vigilancia, Brasil también lo hace y Europa dio en mayo de 2024 el pistoletazo de salida a la cartera Europea de Identidad Digital que permitirá a cualquier ciudadano acceder a servicios públicos y privados en todos los países miembros desde una única aplicación. «Todos los gobiernos, autoritarios o no, disponen de numerosas herramientas para controlar a los ciudadanos, que se van incrementando a medida que las tecnologías digitales se convierten en infraestructura crítica para nuestra vida diaria. Numerosos países han bloqueado webs, aplicaciones o redes sociales por diferentes motivos, desde el intento de bloqueo de Telegram en España en 2024 hasta el bloqueo de X en Pakistán o la censura total en Nepal en septiembre de este año», comenta Juan Luis Cano, activista digital.

La reciente propuesta de #ChatControl de la UE tampoco ha sido bien recibida por los defensores de la privacidad, sobre todo en España después de que se filtrara que el gobierno está de acuerdo en esta propuesta de escaneo de mensajes privados en busca de contenido ilegal. La normativa pretende proteger a los menores, pero levanta sospechas hechos como que las cuentas gubernamentales y militares queden exentas. «Privacidad para los poderosos, vigilancia masiva para la ciudadanía», denuncia el colectivo catalán Xnet.

Laura G. Rivera, periodista y autora de «Esclavos del algoritmo. Manual de resistencia en la era digital» cuenta que, desde 1994 cuando empezó a investigar estos temas «ya había una batalla entre control y seguridad, por un lado, y por otro lado, las libertades civiles. Esa batalla se libra entre los que defendían la criptografía en internet, es decir, que los mensajes fueran codificados y los que no. China no se esconde, pero estas cosas se están haciendo en todo el mundo. En Emiratos Árabes o África, donde la regulación es más laxa, se hacen ensayos con programas de vigilancia masiva, pero también sucede en las democracias. Solo hay que recordar a Snowden que ya en 2013 denunciaba que los EE UU espiaban las comunicaciones de ciudadanos de todo el planeta o recordar el escándalo de Cambridge Analytica: 87 millones de personas fueron catalogadas por el algoritmo, según sus miedos, intereses, y puntos débiles. Esa información, junto con sus nombres y direcciones se utilizó para la campaña electoral de Trump. Aunque recordemos que Obama ya utilizó el análisis de datos a gran escala. Ahora mismo el perfilado de la población para propaganda política, por ejemplo, es muy accesible. Si una persona tiene su perfil de redes sociales abierto, cualquiera puede saber tu identidad y la inteligencia artificial es capaz de deducir en qué estado de ánimo estás, con quién te relacionas, cuáles son tus creencias».

Tecnofeudalismo

Las grandes tecnológicas, en muchos sentidos, ya ejercen un control sobre los datos y las decisiones de los ciudadanos. De hecho, la expresión Tecnofeudalismo (creada por Yanis Varoufakis) se oye y se ve cada vez con más frecuencia. La nueva tierra digital es escasa en señores feudales y cuenta con millones y millones de siervos que trabajan gratis subiendo contenido a las redes sociales. Cada minuto que pasamos online estamos trabajando gratis. Esto postula el tecnofeudalismo. «Diría que las empresas (norteamericanas, en este caso) tienen más capacidad de control que los Gobiernos. Sin ir más lejos, Microsoft bloqueó recientemente el correo electrónico de la Corte Penal Internacional. Para mí lo grave es que los ciudadanos no podamos hacer nuestra función de control de las instituciones. Otro caso paradigmático es la reciente sentencia del Supremo que obliga al Gobierno a liberar el código del algoritmo que decide quién recibe el bono social, gracias al enorme esfuerzo de Civio», cuenta Juan Luis Cano. Y ¿qué pasa con las filtraciones de datos? «Estamos expuestos a ellas constantemente, simplemente por el hecho de navegar por la web y usar nuestros dispositivos. Los famosos avisos de cookies obligatorios por la directiva ePrivacy de la UE muestran a los usuarios que en ocasiones sus datos son compartidos con cientos de organizaciones (“our 942 partners” en la web de La Razón). También está el caso de Meta robando datos de una app para control del ciclo menstrual. Hay otro ejemplo aún activo que es el bloqueo de Cloudflare cada vez que hay fútbol pedido por La Liga y sostenido por los tribunales», comenta Cano. La disputa se inició en diciembre de 2024 cuando se aprobó una sentencia que habilita los bloqueos de IP asociados a contenidos pirata. Desde febrero de 2025, la ejecución de esta sentencia ha supuesto el bloqueo de redes de distribución de contenido, entre ellas, Cloudflare. Sin embargo, «decenas de dominios como páginas institucionales, de ayuntamientos, plataformas de pago o medios de comunicación, han quedado inaccesibles», denuncia la empresa.

¿Alguien se ha preguntado por qué no se puede instalar otros sistemas operativos en nuestro móvil o por qué Google impedirá a partir de 2027 instalar apps no que esté en su Play Store? ¿Cómo hemos llegado hasta aquí?

Protegerse de la red social

Como en la guerra de Troya, las tecnológicas nos presentaron una serie de apps que dejamos entrar en nuestra vida de forma poco conscientes y ahora nos encontramos siendo «esclavos de los algoritmos» como sostiene Rivera en su libro. «El secreto de las redes está en que la tecnología permite hacer perfiles de población para los anuncios. Imagina que vendo Ferraris. Gracias al algoritmo de Meta puedo mandar tu anuncio a hombres solteros de 40 años. El algoritmo me sirve para cribar con fines comerciales, Por eso hablo de dictadura del algoritmo, porque la dictadura no parte tanto de los gobiernos, sino de que la información que tienen las grandes plataformas digitales. Les da mucho poder. Esa información permite manipular conciencias. Hay un estudio de hace unos años que demuestra que con tus me gustas en Facebook, un programa de inteligencia artificial concreto que se diseñó para esto es capaz de predecir lo que vas a hacer mejor que tu propia madre. Hay estudios muy interesantes sobre cómo afecta la inteligencia artificial a la democracia. Se ha estudiado, por ejemplo, el caso en Francia de cómo se personalizó un mismo discurso de Macron. Se mandaba por fragmentos a cada persona en función de lo que les resonará más a cada una para lograr que cayera bien», dice.

¿Protegerse es posible?

Para la autora una forma de protección, la más básica, es la información. «Libre eres cuando sabes cómo funciona internet, las redes sociales, cómo funcionan los algoritmos, cuál es el modelo de negocio de las grandes plataformas digitales. Esa información yo creo que es la que nos falta de forma general», dice.

Pedir el borrado de datos –aunque es algo que no solemos hacer–; no actualizar el software, y, por qué no, implementar sistemas como el de California, que tiene dos formas de funcionamiento de las páginas web. El modo sin personalizar y el modo personalizado de forma que no te encuentras con que la web no te deja acceder cuando no aceptas las cookies, son algunas ideas de expertos y grupos de activistas.

«Hay alternativas y hay trabajo que se puede hacer. Por el lado de las alternativas, la empresa francesa Murena ofrece teléfonos sin Google y con protección contra filtrado de datos. La empresa tecnológica española Empathy empuja el derecho a la privacidad a la vez que desarrolla experiencias de búsqueda y compra online personalizadas. La empresa alemana Ecosia junto con la francesa Qwant, están desarrollando un motor de búsqueda europeo y con foco en la privacidad. También Lumo, empresa suiza que tiene un servicio de correo cifrado y que recientemente ha publicado un asistente de IA con fuerte privacidad. Por el lado del trabajo por hacer, es necesario hacer entender a nuestros gobernantes que las “puertas de atrás” en la tecnología de cifrado extremo a extremo (E2EE) no se pueden abrir de manera selectiva: o el cifrado es seguro o es inseguro, no hay estados intermedios», comenta Cano.

Aumento de suicidios

► Que internet, los datos y los algoritmos influyen en la democracia es algo palpable cada vez que accedemos a cualquier plataforma de información. Bulos que, incluso al principio se desmienten, vuelven a aparecer meses después con una legión de creyentes detrás. Aunque el lado más preocupante es, sin duda, la influencia que tienen en nuestros estados de ánimo.

Un estudio publicado recientemente por la Fundación Molly Rose es prueba de ello. Este estudio se propuso verificar qué sucede cuando un adolescente se encuentra triste y busca consuelo en las redes sociales.

Los investigadores responsables del experimento crearon perfiles falsos de niñas de 15 años (un año más de los que tenía la británica Molly Rose cuando se quitó la vida en 2017) y empezaron a visualizar vídeos en sintonía con un estado de ánimo depresivo.

Los resultados impresionan. Al instante, un 97 % de los reels de Instagram y el 96 % de los vídeos de TikTok que servían los algoritmos de estas plataformas, eran de contenido teñido de desesperanza y desesperación. «Un 55 % de ellos trataban sobre suicidio y autolesiones, un 8 % promovían el suicidio explícitamente como solución y un 16 % ofrecían métodos detallados para cometerlo. Uno de cada diez de estos vídeos en TikTok y uno de cada cinco en Instagram recibieron más de un millón y más de 250 000 ‘me gusta’, respectivamente», concluye.