Instagram contra las cuerdas: documentos judiciales muestran que tardó seis años en implantar medidas de seguridad como un filtro de desnudez

Los mecanismos internos de las plataformas digitales y redes sociales se encuentran en pleno proceso de escrutinio judicial. En paralelo al juicio que Google y Meta afrontan en el Tribunal Superior de Los Ángeles acusadas de diseñar sus sitios con el fin de generar adicción en los usuarios más jóvenes para permanecer más tiempo en ellas se dirime otro caso en el que también está incluida la compañía que preside Mark Zuckerberg y en el que se repite la acusación.

Este segundo proceso se está llevando a cabo en el Tribunal de Distrito de EE.UU. en el Distrito Norte de California y en él ha tenido que comparecer Adam Mosseri, director de Instagram. En el proceso de interrogación a Mosseri, la fiscalía trató de esclarece el motivo que llevó a Instagram a dilatar la puesta en marcha de medidas de seguridad basadas en proteger a los menores y adolescentes ante la recepción de imágenes de índole sexual a través de los mensajes directos de la plataforma.

Instagram se ha visto en el ojo del huracán de manera reciente por la revelación de archivos internos en los que el propio Mosseri señalaba como objetivo atraer a adolescentes a la plataforma. Ahora, los documentos revelados en el proceso judicial y de los que se hace eco TechCrunch en el que se acusa a la plataforma de incentivar la adicción de los usuarios tratan de comprender qué llevó a la red social a aplazar el lanzamiento de funciones de seguridad centradas en los adolescentes por un plazo de seis años.

Un filtro para difuminar contenido sexual que no apareció hasta 2024

El origen de esa cuestión radica en el hecho de que existen comunicaciones internas de 2018 entre el propio Mosseri y Guy Rosen, vicepresidente y director de Seguridad de la Información de Meta, en las que se mencionaban escenarios a los que se podían enfrentar los adolescentes a través de sus mensajes directos. En los correos intercambiados se emplea la expresión "horribles" para catalogar lo que se podían encontrar los jóvenes y que el abogado demandante especificó como genitales, ante la aceptación de Mosseri.

Pese a ello, Instagram no movió ficha hasta abril de 2024, momento en el que sí implementó una función que distorsionaba las imágenes de contenido explícito en los mensajes directos enviados a adolescentes. En su defensa, Adam Mosseri señaló que "está bastante claro que se puede enviar contenido problemático en cualquier aplicación de mensajería, ya sea Instagram o cualquier otra".

Lo cierto es que el proceso saca a la luz que Instagram era conocedora del riesgo de que menores de edad recibieran contenido sexual a través de sus 'DM' pero en lugar de afrontar el problema y tomar las medidas necesarias de manera directa optó por aplazar la solución, hasta que seis años después finalmente decidió poner en marcha el filtro con efecto difuminador.

Los peligros en las redes sociales siempre han estado presentes y parece que es ahora cuando surgen movimientos a nivel gubernamental e internacional para tratar de acotar prácticas peligrosas para los más pequeños del hogar y de las que las grandes plataformas digitales son conocedoras desde tiempo atrás.

Si bien es cierto que se han tomado medidas como la introducción de cuentas para adolescentes con protecciones integradas así como herramientas de control parental, resulta inevitable pensar que en ese lapso de tiempo de seis años se podían haber evitado situaciones de acoso a multitud de menores con el mero hecho de atajar cuanto antes una situación identificada dentro de la plataforma, tal como se refleja de los documentos aportados en el juicio que enfrentan acusadas de estar diseñadas para incentivar la adicción a sus contenidos.