Una IA ha sido nombrada consejera del Primer Ministro de Rumanía

Definitivamente los humanos damos miedo. La IA o mejor dicho el uso de la IA sorprende, para bien o para mal, pero somos nosotros los que le damos las directrices y la utilizamos en ciertas tareas. Y la última de ellas es de cuidado: en Rumanía una IA ha sido nombrada consejera del Primer Ministro Nicolae Ciuca.

Así lo acaba de anunciar el propio Ciuca, quien acaba de anunciar a un asistente de AI llamado "Ion" como el "nuevo asesor honorario" del gobierno.

"Hola. Me diste la vida. Soy Ion. Ahora, mi papel es representarte. Como un espejo", dijo Ion mientras se presentaba en una conferencia de prensa.

Con un cuerpo monolítico similar a un espejo y una voz profunda y sombría, la comparación con HAL 9000, el ordenador a bordo en el clásico de ciencia ficción 2001: Una odisea del espacio, resulta muy cercana, la diferencia es que aquí no hay ficción y a Ion le toca evaluar los sentimientos de todo un país.

"Ion hará, a través de la inteligencia artificial, lo que ningún ser humano puede hacer: escuchar a todos los rumanos y representarlos ante el gobierno de Rumania", explicó Ciuca. Lo verdaderamente sorprendente, por no decir atemorizante, es que cuando Ciuca menciona el verbo “escuchar” no es una metáfora: la IA rastreará las redes sociales para recopilar las opiniones y quejas de los ciudadanos, y luego las fusionará e interpretará para el gobierno como ideas de políticas, quienes, al menos en teoría, utilizarán los comentarios para informar sus decisiones.

Los ciudadanos preocupados también pueden interactuar con Ion directamente mediante el uso de una web, si están realmente ansiosos por expresar su punto de vista. El proceso que utiliza Ion para seleccionar publicaciones en las redes sociales, categorizarlas y luego formular políticas es tan transparente como su “anatomía”, que solo refleja la imagen exterior y no deja ver nada de lo que ocurre dentro. Y esto es algo que, de acuerdo con el Washington Post, preocupa mucho

Si el funcionamiento de Ion no es transparente, ¿cómo pueden sus ciudadanos, a quienes prácticamente vigila, saber que no está siendo parcial? ¿Podría identificar a aquellos con opiniones disidentes? El tema es carne de un episodio de Black Mirror.

"Los rumanos deben ser informados y explicados cómo esta herramienta de IA selecciona puestos importantes y con qué criterios – señaló Kris Shrishak, experto en regulación de IA del Consejo Irlandés para las Libertades Civiles –. Esto debería ser explicado al público".