¿Cómo evitar recibir imágenes sexuales no deseadas?

La diferencia es obvia y se ha incrementado aún más desde la cuarentena: las mujeres, con enorme diferencia (58% contra 13% de los hombres), han recibido fotografías de desnudos no solicitadas. Esa es la conclusión de una encuesta realizada por YouGo y demuestra claramente el porqué de las diferencias. Mientras el 60% de los hombres creen que este tipo de fotografías son sensuales, el 58% de las mujeres las etiquetan como desagradables.

¿Cómo evitar esto? La aplicación de citas online Badoo ha desarrollado una herramienta que ya podría ser imitada por numerosas apps y redes sociales. Se trata de Detector Privado, una tecnología basada en inteligencia artificial que identifica fotografías explícitas de genitales masculinos, dando opción a los usuarios de visualizarlas o no. La creación de esta herramienta obedece al objetivo de dar respuesta a una tendencia que resulta desagradable para numerosos usuarios de la industria de las redes sociales y que no sólo llega a los adultos, sino también y de forma preocupante, a menores.

El Detector Privado sanaliza imágenes explícitas en tiempo real, con una precisión del 98%. La función difumina automáticamente la imagen y alerta al receptor de que se les ha enviado una imagen con contenido explícito, para que puedan decidir si ver la fotografía, bloquearla o reportarla al equipo de moderación de Badoo.

Tal y como nos explica Pablo Delgado, director de Marketing de Badoo para España y Latinoamérica, “la seguridad de nuestros usuarios es de suma importancia para nosotros y buscamos estar a la vanguardia de los avances tecnológicos que nos permiten ayudar a protegerles. El Detector Privado es un sistema de redes neuronales convolucionales de deep learning. Es capaz de inferir con un alto grado de fiabilidad si la foto es apropiada o inapropiada, acorde a nuestra políticas de moderación fotográfica. Tras 14 años en el mercado y cerca de 500 millones de usuarios en todo el mundo, la cantidad de imágenes que han sido subidas a perfiles de Badoo y han pasado por las manos de nuestros moderadores es inmenso. Hemos utilizado esa base de imágenes y decisiones tomadas sobre ellas, para educar a nuestra tecnología en la detección automática de las mismas, e inferir de este modo el grado de NSFW de las mismas”.

Es cierto que los hombres representan la inmensa mayoría, pero el algoritmo de Detector Privado, ¿sólo detecta genitales masculinos? “El algoritmo está entrenado para detectar cualquier tipo de imagen de carácter inapropiado”, explica Delgado. “Ya sea un cuerpo o una parte de un cuerpo tanto masculino como femenino. La realidad es que los hombres son más proclives a enviar fotos no deseadas de este tipo que las mujeres, con lo cual como es comprensible, es donde nuestro sistema puede ser aún más certero y bloquearlas. Siempre que haya un consentimiento previo en su recepción y envío, las fotos enviadas por chat son solo de la incumbencia de nuestros usuarios, nosotros no juzgamos. El Detector Privado las mostrará borrosas si detecta desnudez y luego es la persona que la recibe, quien puede decidir si desea verla o no.”

¿Cómo diferencia imágenes de mujeres dando el pecho?

“Una imagen de una mujer dando el pecho no habrá sido marcada como foto inapropiada en el pasado, con lo cual la probabilidad de que esta sea detectada como tal es muy baja”, añade Delgado. “El entrenamiento está basado en los millones de fotos que hemos revisado en el pasado, y las de esta índole no deberían ser consideradas inapropiadas por el detector”.

Esta herramienta es sumamente útil para acabar con el acoso en redes, la extorsión a menores y otras prácticas ilegales y, debido a su grado de precisión, sería lógico que Badoo hubiera sido contactado por otras empresas y hasta por organismos de gobierno para utilizarlo. Lamentablemente, los responsables de la app no pueden responder a esto, algo que nos hace pensar que podrían estar trabajando en conjunto con terceros para desarrollar herramientas similares. Lo cual sería una muy buena noticia.