Así funciona el «policía anti palabrotas» de Google

La herramienta Perspective se basa en el aprendizaje automático para detectar y prohibir comentarios tóxicos

Google quiere garantizar que todos sus contenidos son apropiados
Google quiere garantizar que todos sus contenidos son apropiados

Eliminar los insultos de internet se antoja una aventura tan utópica que, a su lado, viajar al nuevo sistema solar anunciado por la NASA parece una empresa al alcance de la mano. Pensar en una red en la que los “cafres” de toda condición no tengan barra libre para volcar cualquier comentario tóxico que se les antoja parece, por ahora, arriesgado, pero Google, el dueño y señor del escenario donde se producen estos enfrentamientos dialécticos tan poco identificantes, va a intentar al menos poner algo de orden.

Lo va a hacer a través de una nueva herramienta anunciada este jueves, Perspective, que funcionará como una especie de “policía en la red” encargado de detectar todos los comentarios inapropiados, acosos y palabrotas e impedir que salgan publicados. En una primera etapa solo funciona en inglés, pero se irá abriendo a otros idiomas, y el español como uno de los primeros.

Para justificar la necesidad de esta iniciativa, la empresa esgrime en su blog algunos datos: por ejemplo, que el 72% de los usuarios de Internet en EE.UU ha sido testigo de acosos en la Red y que casi la mitad los ha sufrido directamente en algún momento. Además, casi un tercio de los usuarios se autocensura cuando envía mensajes en redes sociales, por miedo a ser objeto de represalias.

Las víctimas directas son, por supuesto, los lectores, pero semejante ruido desagradable tiene efectos colaterales también en los medios de comunicación, blogs y demás páginas, a las que en ocasiones cuesta en mundo intentar que se genere una conversación edificante y productiva sobre un tema. Como resultado, reconoce Google, deciden en ocasiones cerrar los comentarios por completo pese a que asumen que es el mal menor.

Ahora, Google, en colaboración con Jigsaw, pone en funcionamiento Perspective, una tecnología que se encuentra en su primera etapa de desarrollo y que utiliza el aprendizaje automático para ayudar a identificar comentarios tóxicos. A través de una API, editores (incluyendo los miembros Europeos de la Digital News Initiative) y desarrolladores, pueden acceder a esta tecnología y utilizarla en sus sitios web.

Perspective funciona de la siguiente manera: analiza los comentarios y los evalúa basándose en el parecido que tienen con los comentarios que las personas han indicado como “tóxicos” o que, probablemente, pueden hacer que alguien abandone una conversación. Para aprender a detectar un lenguaje potencialmente tóxico, Perspective examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos. Cada vez que Perspective encuentra nuevos ejemplos de comentarios tóxicos o recibe correcciones por parte de los usuarios, mejora su capacidad para evaluar los futuros comentarios, explica Google.

Con ello, los editores pueden decidir lo que desean hacer con la información que reciben de Perspective. Por ejemplo, pueden elegir marcar comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación. También pueden ofrecer herramientas para ayudar a su comunidad a entender el impacto de lo que escriben permitiendo que la persona que está escribiendo vea la toxicidad potencial de sus comentarios justo cuando los está escribiendo. Los editores incluso podrían permitir a los lectores clasificar los comentarios según su toxicidad, facilitándoles la búsqueda de grandes debates escondidos en conversaciones tóxicas.

La versión beta ha sido ya probada con el The New York Times, en donde todo un equipo se encarga de examinar cuidadosamente y moderar cada uno de los comentarios, antes de que se publiquen, revisando hasta 11.000 comentarios cada día. El Times solo ofrece la posibilidad de comentar en un 10% de sus artículos, por lo que Google ha ofrecido su colaboración para entrenar una serie de modelos que permitan a los moderadores clasificar los comentarios con mayor rapidez.

Por último, Perspective se une a la biblioteca de código abierto TensorFlow y a la plataforma de Cloud Machine Learning, como uno de los nuevos recursos de machine learning que Google ha puesto a disposición de los desarrolladores. El reto inmediato es perfeccionar la herramienta y, sobre todo, abrirla a otros idiomas, no solo el inglés.