Apagón de Microsoft: ¿qué ocurrirá cuando la IA tome decisiones sin tener en cuenta al ser humano?

Un fallo en el sistema operativo Windows, el corazón de Microsoft, que sufrió un infarto el pasado viernes, afectó al resto de los órganos vitales del ecosistema tecnológico global, haciendo que miles de vuelos en todo el mundo entraran en parada cardiaca. Parece irónico que la misma tecnología que promete hacernos la vida más fácil pueda, en un instante, por un simple error informático, desencadenar un caos a escala global, provocando una avalancha de cancelaciones y retrasos en miles de vuelos alrededor del mundo y convertir un día vacacional en la peor de las pesadillas. Nos encanta la comodidad de poder reservar vuelos con un clic, tener la tarjeta de embarque en el móvil y de tener sistemas que gestionan cada aspecto de nuestras vidas, pero olvidamos que esta comodidad tiene riesgos.

No sólo afectó a los vuelos, sino que desencadenó un efecto dominó más allá de la industria del transporte, alterando las cadenas de suministro globales y retrasando la entrega de materiales clave en los procesos productivos. Todo un desastre logístico que dejó varados a cientos de miles de pasajeros con reservas hoteleras en sus destinos, cruceros, vuelos de conexión perdidos y otros eventos, que les obligó a incurrir en gastos adicionales lo que, junto al impacto global en muchos sectores, provocó pérdidas económicas incalculables, aparte de arruinar las ansiadas vacaciones de verano de muchos.

Este incidente pone de relieve una realidad preocupante: nuestra creciente dependencia de la tecnología nos hace increíblemente vulnerables. En un mundo global, los sistemas que gestionan desde nuestros vuelos hasta nuestras finanzas están tan interconectados que un solo fallo puede tener repercusiones catastróficas. Y con el auge de la IA, esta dependencia solo está destinada a aumentar, pues si un fallo en los sistemas de Microsoft puede causar tal caos, ¿qué pasará cuando dependamos completamente de la IA para tomar decisiones críticas? O peor, ¿qué ocurrirá cuando la IA tome decisiones sin contar con el ser humano? Un error en los algoritmos podría tener consecuencias aún más graves, y es imperativo que empecemos a considerar estas posibles eventualidades.

La responsabilidad de Microsoft

En medio del caos, surge la pregunta que muchos nos hacemos sobre la innegable responsabilidad de Microsoft y la compensación, ya que, como proveedor de servicios críticos para tantas empresas, recae sobre ellos la obligación de garantizar la fiabilidad y seguridad de sus sistemas y, a su vez, las aerolíneas tienen la obligación de compensar a los pasajeros por retrasos y cancelaciones. Sin embargo, la realidad es que es poco probable que Microsoft asuma la responsabilidad económica de este fallo, a pesar de que, en Europa, las regulaciones sobre compensaciones a pasajeros son estrictas, pero rara vez se extienden a indemnizaciones por fallos tecnológicos de terceros, dicho de otra forma, políticamente correcta, por fuerza mayor. Las aerolíneas, por su parte, probablemente absorberán gran parte de sus costes propios, pero es probable que dejen a los pasajeros luchando por su cuenta por una compensación, a los pies de los caballos del gigante tecnológico.

Otra pregunta que todos nos hacemos ahora es: ¿Cómo podemos evitar que esto vuelva a suceder? La respuesta no es sencilla, pues la implementación de sistemas redundantes y la mejora de las infraestructuras tecnológicas son pasos esenciales, pero también lo es la regulación y supervisión adecuadas. Necesitamos asegurarnos de que las empresas que proporcionan servicios críticos, como Microsoft, están sujetas a estándares rigurosos y que estén obligadas a compensar a los usuarios que pagan al comprar las licencias. Esto ocurrirá si Europa legisla duramente contra las grandes tecnológicas que comienzan a dominar el mundo, aunque me temo que el poder de los lobbies y la complacencia de algunos políticos, demorará este tema, sine die.

No es sencillo tomar las medidas necesarias para que el fallo no vuelva a repetirse

Igualmente, a medida que nuestra dependencia de la tecnología crece, también lo hace el riesgo de ataques cibernéticos, por lo que la protección de nuestros sistemas debe ser una prioridad, y esto incluye desde la formación del personal hasta la implementación de las últimas tecnologías de seguridad. Independientemente de ello, también debemos estar preparados para los momentos en que la tecnología falle, que llegarán, ya que la confianza ciega en los sistemas automatizados puede ser peligrosa, y debemos asegurarnos de que siempre haya planes de contingencia robustos. En última instancia, el incidente del viernes debe servir como un aviso de que debemos repensar nuestra relación con la tecnología y asegurarnos de que estamos preparados para manejar sus inevitables fallos.

Mientras avanzamos ilusionados hacia un futuro cada vez más digital y automatizado, debemos recordar que la tecnología es una herramienta, poderosa y transformadora, pero no infalible. Y en nuestra búsqueda de la eficiencia y la comodidad, no debemos olvidar la importancia de estar preparados para cuando las cosas no salgan según lo planeado. En el futuro, ¿La tecnología estará a nuestro servicio o nosotros al de ella?