El día en el que te despedirá un robot

Ibrahim Diallo desapareció del sistema de su empresa sin que nadie diese la orden. Su entrada al edificio llegó a estar vetada a pesar de que ningún superior le había despedido.

El reciente caso de un empleado despedido por orden de un programa informático en Estados Unidos ha disparado todas las alarmas. ¿Hasta dónde puede llegar la autoridad de las máquinas? Esta historia de pesadilla podría haber sido concebida por un guionista de ciencia ficción, pero lamentablemente es cierta.

Recientemente, Ibrahim Diallo, un programador de California ha revelado en su blog que un año atrás perdió su trabajo en una importante empresa tecnológica. Aunque Diallo no menciona el nombre, una búsqueda rápida en Linkedin, permite saber que un año atrás trabajaba para la multinacional AT&T. ¿La razón del despido? Ninguna. ¿El responsable del mismo? Un algoritmo.

Todo comenzó cuando una mañana Diallo intentó acceder al edificio donde realizaba tareas de programación para un proyecto internacional y su tarjeta no funcionaba. Creyendo que se trataba de un fallo, solicitó una nueva en el departamento de Recursos Humanos. Allí le dijeron, textualmente, que habían recibido «un correo extraño respecto a él», pero prometieron intentar aclarar lo ocurrido. Nunca se supo el contenido de este primer mensaje, pero después llegaron otros.

Durante los días siguientes Diallo continuó trabajando utilizando una tarjeta temporal, pero a menudo recibía llamadas de los responsables de la seguridad de acceso al edificio en las que le notificaban que recibían mensajes diciendo que no tenía permiso para estar allí. A la semana comenzó a ser bloqueado de los ordenadores y los programas que debía modificar, incluso recibió un correo que decía que había sido despedido.

Nadie en la empresa sabía qué estaba ocurriendo y el sistema no permitía emitir una tarjeta a su nombre porque su identificación aparecía en rojo en los sistemas.Aún así, la directora de su departamento le aseguró que debía tratarse de un error. Todos estaban muy satisfechos con su trabajo, Diallo llevaba 8 meses de un contrato de tres años.

Y volvió al trabajo. «Al día siguiente me habían bloqueado todos los sistemas. Después del almuerzo, dos personas aparecieron en mi escritorio: una de ellas era el jefe de seguridad que me había dejado entrar siempre, pero esta vez evitaba mirarme a los ojos. Cordialmente me informó que debía acompañarme fuera del edificio. La directora estaba furiosa, había recibido un correo electrónico muy amenazante diciendo que debía abandonar el edificio. Nadie sabía quién estaba enviando esos correos electrónicos con mensajes desalmados y escritos en rojo, dando órdenes», cuenta el protagonista en su blog.

Fueron necesarias tres semanas para que descubrir qué había ocurrido. «Mi jefe anterior había sido despedido durante un período de transición y se le ordenó cumplir el resto de sus funciones desde su casa. Me imagino que debido a esa frustración decidió no hacer mucho trabajo después de eso. Una de sus funciones era la renovación de mi contrato en el nuevo sistema. El problema es que, una vez que se cumplía la orden de no renovación, el propio sistema se hacía cargo de todo el proceso. Todas las órdenes necesarias se envían automáticamente y por cada una completada, se genera otra nueva», continúa.

Es decir, cuando se envió la orden de bloquear su tarjeta de acceso ya no era posible dar marcha atrás. Esto generaba un nuevo proceso que tampoco podía ser revisado. Una vez que el ordenador estuvo bloqueado fue imposible cambiar nada y Daillo tuvo que ser contratado como un nuevo empleado.

Pero este programador no aceptó estas nuevas condiciones y se lanzó a crear su propia startup, «Renly», una suerte de «AirBnb» para personas que quieren abrir una tienda. La jugada le ha salido bien, pero durante un mes, el programador estuvo a merced de las órdenes de una máquina y de personas que cumplían los mandatos que recibían...sin saber de quién.

Daillo concluye su historia en su blog con una frase que da mucho que pensar: «Lo que creía que era seguridad laboral fue solo una ilusión. La automatización puede ser una ventaja para una empresa, pero es necesario que haya forma de que los humanos se hagan cargo si la máquina comete un error. Perdí tres semanas de sueldo porque nadie podía detener la secuencia de la máquina», denuncia.

¿Es culpa de la máquina?Si bien es imposible adelantarse a todos los imprevistos, el ejercicio de pensar en ellos y crear una estrategia te acerca mucho más al éxito. En este caso, la máquina llevó a cabo unas instrucciones para las que fue programada por seres humanos. No se trataba de un programa que se autoconfeccionó o que desarrolló otra máquina sin control humano. Por lo tanto, él también obedecía órdenes.

Para evitar que esto se repita o que se produzcan consecuencias más graves, Daillo propone tres leyes de la automatización en el ámbito laboral. La primera, la existencia de un botón rojo que cancele toda la secuencia de eventos. La segunda, que si se interrumpe la secuencia antes de su finalización las acciones tomadas puedan ser revocadas. La tercera, que después de un determinado número de pasos un ser humano confirme la decisión de la máquina.

¿Qué ocurrirá en el futuro? Tomemos como ejemplo el mundo del automóvil. Dos años atrás anticipábamos las consecuencias que podría traer la tecnología de coches autónomos. Un año más tarde señalábamos que sería el primero en el que un humano iba a morir en uno de ellos. La automatización en lo laboral tiene una alta proporción de riesgos si es completa. Ibrahim Diallo reaccionó de forma tranquila a toda la serie de eventos. Pero, ¿qué habría pasado si hubiera sido sometido a un estrés mayor? ¿Habría sido su respuesta la misma? ¿Y si en lugar de una persona hubieran sido 20?

Hay robots como Vera, de la que hablamos hace unos meses, que facilitan el proceso de selección de personal y producen resultados equiparables o mejores a los de los humanos. Pero no siempre es así. No se trata de una lucha de humanos contra robots, sino de nosotros y ellos. Cualquier otra estrategia distinta a la colaboración entre ambos traerá consecuencias negativas. Y a corto plazo.