IA para controlar el acceso de menores al porno en internet

El acceso de menores a contenidos pornográficos y violentos en internet es una realidad con consecuencias, entre ellas, según expertos, el aumento de agresiones sexuales en este colectivo. En ello inciden las fiscalías y la Agencia Española de Protección de Datos, que proponen incrementar controles y mejorar los sistemas de verificación de edad, e incluso el uso de inteligencia artificial para comprobar lo que siguen en redes y plataformas los más jóvenes.

La Fiscalía de Cantabria advierte, en su Memoria anual, del "preocupante consumo de material pornográfico que se constata año tras año" en los menores, por un acceso a páginas de internet "carente de control por adultos". Pero, ¿cómo se puede combatir esta realidad?

Destaca la Fiscalía cántabra que en muchas ocasiones ese acceso a contenidos pornográficos "está detrás de los delitos contra la libertad sexual", una cuestión "compleja de abordar", pero que "exige una intervención más rigurosa a nivel familiar, educativo y social".

"Sin perder de vista el hecho de que las redes sociales tienen su aspecto positivo, lo cierto es que su manejo por parte de menores de edad está generando numerosos problemas, y, por ello, debe hacerse hincapié en esa irregular y preocupante presencia de los menores de 13 años de edad en las redes sociales", dice la Memoria de la Fiscalía.

El presidente de FAPA Cantabria, Chema Torre, apunta que uno de los principales problemas es que los niños y adolescentes "no tienen una educación ni información sexual" y "aprenden en internet, por su cuenta".

"Hay que incidir en el ámbito educativo", ésa es su receta, pues entiende que "hay una carencia total de educación sexual que se ve reflejada" en las nuevas generaciones.

Insiste en que "lo que reciben muchos niños viene de lo que ven en internet". "Esto se debería suplir, hay que abandonar posiciones retrógradas e implementar una verdadera educación sexual", argumenta a EFE.

Lo que apunta la Fiscalía

La Fiscalía no escatima tampoco advertencias: la falta de coste económico por el uso de redes sociales, según dice, "no debe llevar a engaño" porque es "una verdadera forma de expresión contractual, en cuanto que genera deberes y obligaciones".

"En relación al menor", agrega, "afecta a un ámbito particularmente sensible", como es el del uso de sus datos e imagen, sobre los que se "hace una importante cesión", y que se agravará cuanto más pequeño sea el niño.

Aunque se viene entendiendo que los menores de edad pueden realizar por sí solos esta contratación al crear un perfil en redes sociales, la Fiscalía explica que el Parlamento y el Consejo Europeo estipulan que el tratamiento de los datos personales de un niño se considerará lícito cuando tenga como mínimo 16 años, y que por debajo de esa edad solamente será legal si el consentimiento lo autorizó el titular de la patria potestad o tutela.

Con todo, los estados pueden establecer por ley una edad inferior, siempre que no sea menos de 13 años. En España la Ley Orgánica de Protección de Datos y Garantías de los Derechos Digitales determina que el tratamiento de los datos personales de un menor de edad únicamente podrá fundarse en su consentimiento cuando sea mayor de 14 años.

El tratamiento de los datos de los menores de esa edad, según esta norma, sólo será lícito si consta el del titular de la patria potestad o tutela.

Limitación de edad pero sin control

En consonancia con esto, las propias redes sociales, al igual que otros proveedores de servicios online, establecen entre sus condiciones una limitación de edad para el registro, que normalmente es de 13 años -en el caso de TikTok, Facebook, Twitch, Twitter- y ocasionalmente 14 años -Instagram-.

El problema es, sin embargo, "la nula responsabilidad de las redes sociales en el control de la edad del registro". "Un simple vistazo a algunas permite comprobar que niños notoriamente menores de 14 años publican contenido sin aparente supervisión", dice la Fiscalía.

Este organismo sugiere emplear mecanismos como la inteligencia artificial para excluir contenido peligroso y controlar "la participación de usuarios que ostensiblemente tienen menos de 14 años".

Este problema también ocupa desde hace tiempo a la Agencia Española de Protección de Datos, que apoya la propuesta de Pacto de Estado promovida por organizaciones de la sociedad civil para la protección de la infancia y la adolescencia en internet.

La Agencia Española de Protección de Datos apuesta además por la producción de apps que permitan implantar sistemas eficaces de verificación de edad para proteger a los menores del acceso a contenidos inadecuados y en colaboración con la Comisión Nacional de los Mercados y la Competencia (CNMC), la Fábrica Nacional de Moneda y Timbre (FNMT), el Ministerio de Transformación Digital y el Ministerio del Interior.