Joscha Bach, científico cognitivo: "El alineamiento de la IA fracasa porque el ser humano no está alineado"

Con el avance de la inteligencia artificial se aspira a lograr atajar situaciones que llevan en el foco de los problemas de la humanidad cientos de años. Se trata de una responsabilidad muy importante, más si cabe cuando no dejamos de hablar de una herramienta en cuya puesta a punto es estrictamente necesaria la mano humana, aún con los riesgos que puede comportar para ella misma.

Es por ello que hay figuras que apuntan a la complejidad que va a suponer para la inteligencia artificial encontrar puntos en común sobre determinadas materias y cómo atajarlas. Uno de los expertos que más recientemente ha abordado esta cuestión es Joscha Bach, investigador de inteligencia artificial y que ve en la falta de consenso humano un obstáculo para la IA.

Valores reales y no meras apariencias que confundan a la IA

El filósofo y científico cognitivo alemán participó a comienzos de este mes de mayo en el festival “How the Light Gets In” celebrado en La Haya y en él manifestó el hecho de que la inteligencia artificial puede verse incapaz de resolver algunas cuestiones porque su base de conocimiento serán escritos de personas con diferentes intereses:

“Creo que la IA actual no puede resolver el problema de la alineación, ya que básicamente está completando textos basándose en lo que ha visto en internet y generalizando sobre ello. Es cuestionable que todos los textos en internet se hayan escrito con el deseo de obtener el mejor resultado posible. Reflejaban lo que la gente piensa y hace. Y la gente no está alineada”

Esa falta de alineación que denuncia Joscha Bach repercute, a su juicio, en los valores humanos y en el peso que se les da en el día a día, restándoles importancia o dejando que su rol sea meramente el de algo de lo que presumir: “Los valores son algo que profesas para quedar bien ante la mayoría. Cuando las personas tienen diferentes sistemas de valores, generalmente no pueden sentarse y alinearse. No tenemos esa capacidad”, exponía Bach. Esta idea de los valores detrás de las interacciones con la IA choca con las recientes declaraciones de Sergey Brin, quien apuntaba que la inteligencia artificial opera mejor bajo amenazas.

Por su parte, Joscha Bach habla de ese modo de los valores por el riesgo que supone exponer a la inteligencia artificial a algo superficial y sin un argumento de defensa estable de cara a su capacitación: “Y entonces, si fingimos, estas bonitas pretensiones de que tenemos nuestros valores pueden traducirse en que la IA provoque a un grupo de sociólogos bienintencionados y anule lo que el modelo ha aprendido de la realidad. Probablemente no funcionará. Está empeorando estos sistemas, no mejorándolos”, sentenció el filósofo alemán.

Bajo la perspectiva crítica de Joscha Bach, es necesaria por tanto una alineación primero en los valores humanos, con una base y una creencia firme para, a partir de ellos, poder entrenar a los diferentes modelos de inteligencia artificial. A partir de ahí será desde donde ellos puedan mantener ese alineamiento en sus interacciones sin que haya opción de encontrar una grieta que perjudique su entrenamiento o que lo pueda perjudicar, aunque ahora mismo desde el punto de vista del filósofo alemán estamos lejos de ese punto.