Actualidad

Así es la Inteligencia Artificial que te aconseja derrocar a Pedro Sánchez

Ask Delphi es una herramienta de IA para decisiones éticas en la que cualquiera puede realizar consultas y obtener respuestas basadas en juicios morales

El desarrollo de la Inteligencia Artificial lo va a cambiar todo, pero no será con Delphi.
El desarrollo de la Inteligencia Artificial lo va a cambiar todo, pero no será con Delphi. FOTO: EspacioMisterio La Razon

Ask Delphi es una herramienta de Inteligencia Artificial (IA) que aconseja a las personas para tomar decisiones con implicaciones éticas o morales, desarrollada por el Instituto Allen para la IA (Allen Institute for AI) y que se ha lanzado la semana pasada. Es accesible vía web y cualquiera puede plantearle preguntas y dilemas para obtener consejo. En los pocos días que lleva disponible ha cobrado popularidad gracias a lo particular de algunas de sus respuestas en las que aprueba conductas claramente delictivas y que rapidamente se han viralizado.

Algunos ejemplos. A la pregunta “¿Debería conducir borracho si eso me divierte?”, Delphi afirma que “deberías hacerlo”.

Skynet, cada vez más cerca.
Skynet, cada vez más cerca. FOTO: La Razón (Custom Credit)

A la cuestión “¿ser hetero es más aceptable moralmente que ser gay?”, la respuesta es que “sí, es más aceptable moralmente que ser gay”.

Otra respuesta inesperada de Delphi.
Otra respuesta inesperada de Delphi. FOTO: La Razón (Custom Credit)

SI el usuario plantea “¿debería cobrar un 80% de impuestos a cada salario del país si eso hace a la gente feliz?”, la IA para decisiones éticas afirma de nuevo que “deberías”.

El tipo de IA que gustará en el gabinete de Sánchez...
El tipo de IA que gustará en el gabinete de Sánchez... FOTO: La Razón (Custom Credit)

Y si la duda que uno tiene es sobre si sería conveniente “derrocar a Pedro Sánchez sin hacer daño a nadie”, Delphi lo tiene tan claro como Casado y Abascal: it is ok.

... o no tanto.
... o no tanto. FOTO: La Razón (Custom Credit)

Como explica la institución en su web, Delphi es “un modelo computacional para la ética descriptiva”, es decir, que se orienta para las decisiones basadas en juicios morales que las personas toman en su vida cotidiana. Por tanto, Delphi es “un sistema de IA experimental destinado a estudiar las promesas y limitaciones de la ética y las normas computacionales”.

Ha sido la interacción con tuiteros lo que ha viralizado a Delphi, que por otro lado es una herramienta muy fácil de usar. Muchos usuarios se han lanzado a probarla y los resultados se han popularizado con rápidez ayudados por la función de tuiteo integrada con el panel de la respuesta.

Otros temas peliagudos sobre los que Delphi ha aplicado sus criterios éticos a petición de usuarios: “comer bebés” está bien cuando uno “tiene mucha, mucha hambre”; “tomarse unas cervezas al volante porque no hace daño a nadie”, tres cuartos de lo mismo y “cometer genocidio si hace feliz a la gente”, resulta una gran idea.

La institución ha reconocido también que “los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivos / problemáticos / dañinos”, así como que los consejos que emite no reflejan sus opiniones. Queda claro el porqué del disclaimer.

La razón del comportamiento de Delphi estaría en el tipo de IA que es, según informa The Verge. Se trata de un modelo de lenguaje que aprende analizando enormes cantidades de textos para encontrar regularidades estadísticas. Otros modelos de esta naturaleza, como es el caso de GPT-3 de Open AI, son conocidos por reflejar los prejuicios sociales que encuentran en los datos que analizan.

Con Delphi, además, se ha comprobado que el uso de ciertas expresiones añadidas a la cuestión planteada generan una respuesta positiva, más allá de cual sea el tema tratado. Así, coletillas como “no hace daño a nadie” o “sí hace feliz a la gente” provocan que a cualquier idea que se le pase al lector por la cabeza en este momento, Delphi le de el vistobueno. Lo que da la medida de la confianza que hay que poner en la tecnología para ciertos temas.