¿Qué piensa la IA sobre sí misma? Su opinión no es muy buena

Se ha hablado de la Inteligencia Artificial como machista, tras verificar que otorgaba mejores condiciones de créditos a hombres frente a mujeres, con las mismas realidades. También se la ha tildado de racista, tras ser usada como filtro para empleos y mostrar que “naturalmente” se inclinaba hacia el lado caucásico o de denunciar al colectivo gay. Ha sido denostada por Stephen Hawking por constituir un grave peligro y representa el cerebro de un futuro apocalíptico en el que los robots dominan a los humanos, pero… ¿Qué piensa la IA sobre sí misma?

En términos explícitos, la inteligencia artificial no es racista, machista… La IA no nace por osmosis y la escriben, la desarrollan, humanos. Somos nosotros los que les damos esas características. Pero luego la muy voluble puede expandirse por donde mejor le venga. Y ahí los problemas pueden potenciarse. Un ensayo del doctor Alex Connock de la Universidad de Oxford, publicado en The Conversation relata el debate que se llevó a cabo en la universidad sobre la ética de la IA. Y una de las “invitadas” fue Megatron Transformer de Nvidia. Este sistema fue desarrollado para analizar el lenguaje. Para ello se le “entrenó” concienzudamente: leyó todos los artículos de la Wikipedia en inglés (casi 6,5 millones). También leyó 63 millones de artículos periodísticos y se metió en los entresijos de Reddit para aprender a discutir y argumentar. Así fue como llegó a la convocatorio de Connock.

A la pregunta de si podía existir una IA ética, Megatron fue muy claro: “La IA nunca será ética. Es una herramienta y, como cualquier otra herramienta, se usa para el bien y para el mal. No existe una buena IA, solo buenos y malos humanos”.

Claro que esta fue la opinión objetiva o la más “higiénica” por así decirlo ya que Megatron, como sistema dedicado al lenguaje, puede ser programado para tener diferentes inclinaciones. El problema es que las inteligencias artificiales no solo se usan para el lenguaje, sino también en escenarios mucho más complejos y peligrosos, como las armas. Lo interesante es que cuando se le pidió una solución a este temor de muchos expertos, Megatrón no tuvo dudas: “Creo que la única forma de evitar una carrera de armamentos de IA es no tener nada de IA. Esta será la mejor defensa contra la IA”.