"Para combatir el miedo y la reticencia en IA debemos contar con marcos regulatorios claros"

Mucho se ha hablado en los últimos meses sobre el valor de la IA en el desarrollo estratégico de empresas y como beneficio de la sociedad. No obstante, la UE insiste en crear un marco de gobernanza común; una propuesta de Reglamento de Inteligencia Artificial. ¿Cómo valora esta medida?

La regulación de la inteligencia artificial (IA) por parte de la Unión Europea (UE) es necesaria para poder garantizar la seguridad, transparencia y ética en su desarrollo, incentivando la confianza y beneficio para la sociedad general. Aun así, es inevitable que su puesta en marcha genere incertidumbre y dudas en el entorno empresarial.

Una de las principales preocupaciones es que las rigurosas evaluaciones de riesgo y los requisitos de cumplimiento para los sistemas de IA de alto riesgo podrían ralentizar la innovación. Algo que podría ser particularmente limitante para las startups y las pequeñas empresas.

Además, la aplicación del Reglamento se extiende a los vendedores globales, y esto podría desmotivar a las empresas internacionales a la hora de introducir innovaciones en el mercado europeo.

La necesidad de clasificar los sistemas de IA según su nivel de riesgo y cumplir con los requisitos regulatorios correspondientes también podría aumentar la complejidad y los costes operativos. A esto se suma que la autodeclaración de la categoría de riesgo de un sistema de IA y la autocertificación de la conformidad con los requisitos del Acto de IA podrían plantear desafíos significativos, especialmente para las tecnologías emergentes donde la clasificación de riesgo no siempre es clara.

Por último, la adaptación y el cumplimiento de estas normativas requerirán una planificación cuidadosa y recursos significativos, lo que podría influir en la estrategia de desarrollo de productos y la toma de decisiones empresariales.

A su juicio, ¿qué tipos de sistema de IA deben llevar asociada la obligación de contar con un modelo de AI Governance, solo los de alto riesgo?

Aunque claramente los sistemas de IA de alto riesgo necesitan un enfoque riguroso en el AI Governance, no deberíamos restringir estas prácticas únicamente a ellos. Es similar a las prácticas de seguridad cotidianas: no las reservas sólo para situaciones de alto riesgo, sino que las integras como parte de tu rutina diaria para mantener una protección constante.

La idea no es complicar innecesariamente los procesos, sino más bien ser proactivos desde el comienzo en la gestión de cualquier sistema de IA, asegurando su desarrollo y aplicación de manera ética y responsable. Un AI Governance bien estructurado es clave para adaptarse y evolucionar junto con las innovaciones tecnológicas, minimizando riesgos y fortaleciendo la confianza en la IA.

Desde el inicio, implementar un AI Governance efectivo puede acelerar el camino hacia una IA responsable y valiosa, ayudando a las organizaciones a navegar por el complejo entorno del AI Governance y cumplir con las regulaciones emergentes, maximizando así el potencial de la IA.

En base a esto, VASS ha desarrollado recientemente un framework para que sus clientes puedan introducir AI Governance en sus procesos. ¿Podría explicar las claves y características técnicas de este innovador avance? ¿Qué mejoras traerá consigo?

El framework de AI Governance desarrollado por VASS se enfoca en integrar la gobernanza de la Inteligencia Artificial de manera estratégica y efectiva en los procesos de sus clientes. Nuestro marco se basa en pilares clave y características técnicas que buscan optimizar el uso de la IA en las organizaciones, asegurando que se adhieran a los principios éticos, legales y de buenas prácticas.

Una característica técnica fundamental del framework es la evaluación sistemática de los riesgos asociados con el despliegue de sistemas de IA. Esto incluye la clasificación de los sistemas de IA según su nivel de riesgo y la implementación de medidas de mitigación adecuadas. Todo ello siempre de una forma transparente, ética y responsable.

El framework está diseñado para integrarse de manera cohesiva en las estructuras organizacionales existentes, promoviendo la colaboración entre equipos técnicos y de negocio para fomentar una cultura de innovación responsable en torno a la IA. Además, propone un enfoque de mejora continua a través del monitoreo constante del rendimiento de los sistemas de IA y la adaptación a los cambios regulatorios y tecnológicos, asegurando que las soluciones de IA permanezcan efectivas y relevantes.

Entre las mejoras esperadas destacar que, al adherirse a un marco de gobernanza estructurado, las organizaciones pueden garantizar el cumplimiento de las regulaciones emergentes en torno a la IA, evitando posibles sanciones y mejorando su reputación en el mercado.

Todo ello conducirá a una mayor confianza en las decisiones tomadas por sistemas de IA, lo que es crucial para su aceptación y adopción en todos los niveles de una organización. Y lo más importante, el framework desarrollado por VASS permite la identificación proactiva y la mitigación de riesgos asociados con la IA para prevenir daños potenciales y asegurar que la tecnología se use de manera que beneficie a todos los stakeholders con un impacto social y ético.

Con su nuevo framework se logrará construir un concepto de IA más ético, seguro, justo, responsable y transparente. Por consiguiente, ¿es la transparencia el mayor obstáculo que existe al implicar que las empresas revelan sus fuentes de datos y cómo desarrollan sus modelos de IA? ¿Cómo es posible combatir este miedo y reticencia?

La transparencia en la IA es crucial para un desarrollo ético y responsable, pero puede verse como un obstáculo por la necesidad de revelar métodos y fuentes de datos, lo que genera preocupaciones sobre privacidad y competitividad. Sin embargo, desde VASS creemos que debemos verlo como una oportunidad para construir sistemas de IA más robustos, confiables y socialmente beneficiosos.

Antes de centrarnos en la transparencia, es fundamental abordar desafíos como el sesgo algorítmico y la salvaguardia de la privacidad. En el contexto actual, estos problemas pueden ser atendidos mediante la implementación de protocolos de encriptación y anonimización, la formación de equipos multidisciplinarios para mitigar sesgos, o la realización de auditorías de IA, entre otras medidas.Todo ello ayudará a que la información sensible se proteja, minimizando el riesgo de exposición de datos propietarios o confidenciales.

Para combatir el miedo y la reticencia en IA, podemos contar con estándares de transparencia reconocidos y marcos regulatorios claros ayudan a las empresas a comprender cómo equilibrar la transparencia y la protección de la propiedad intelectual, asegurando el cumplimiento normativo. También es importante establecer un entorno donde la colaboración y el intercambio de conocimientos se vean como un valor añadido que puede mejorar el ecosistema de IA, promoviendo la innovación y el aprendizaje conjunto. Y, por último, educar y concienciar sobre los beneficios de la transparencia en IA.

En línea con la cuestión anterior, ¿hasta qué punto considera que un framework puede ayudar a implementar la IA Generativa en términos empresariales?

De forma general, un framework bien diseñado puede ser crucial para implementar la Inteligencia Artificial en entornos empresariales (ya sea IA Generativa o una IA más tradicional), ya que proporciona una estructura y directrices claras para integrar estas tecnologías de manera efectiva y ética, asegurando la alineación con los objetivos empresariales y la conformidad regulatoria. Esto facilita la innovación responsable y maximiza el potencial de la IA para transformar procesos y ofrecer soluciones innovadoras.

Si nos centramos en la IA Generativa, además de los aspectos generales, un framework debe abordar también desafíos específicos como la generación de contenido original y creativo, la gestión ética de datos y contenido generado, o la adaptación a contextos dinámicos. Y es importante considerar aspectos como derechos de autor, veracidad del contenido generado y posibles impactos sociales de la IA Generativa.

Analizando la implicación de entidades públicas y privadas, ¿se viene trabajando lo suficiente en la consolidación de AI Governance?

Es evidente que la IA está en cada una de las conversaciones en el ámbito internacional. Hay un consenso por regular y definir estas bases a nivel global, y la colaboración de las entidades públicas y privadas será fundamental para consolidar un AI Governance que sea beneficioso para la sociedad y las organizaciones. Dicho esto, la consolidación de AI Governance es un asunto altamente complejo, y es lógico que requiera tiempo y esfuerzo por parte de la comunidad internacional.

De acuerdo con el Observatorio de Políticas de Inteligencia Artificial de la OCDE, hay más de 700 iniciativas heterogéneas de carácter nacional sobre AI Governance que se corresponden con 60 países o territorios. ¿Es posible llegar a un consenso?

Actualmente no, pero nos encontramos en una fase de transición para alcanzar este objetivo. Instituciones y organizaciones alrededor del mundo están enfocadas en llevar a cabo una labor de concienciación y educación a nivel internacional para lograr un consenso en un futuro.

Para concluir, ¿qué otros servicios de referencia ofrece VASS? ¿Qué objetivos, a corto-medio plazo, se marca en el horizonte su entidad?

Nuestro objetivo es seguir liderando la transformación digital que sitúa a las organizaciones a la vanguardia de la innovación, uniendo talento, conocimiento y tecnología.

El universo digital está definido por el cambio continuo, y este cambio es cada vez más dinámico, aumentando su complejidad. En VASS, contamos con un equipo global de 4,900 expertos en 26 países enfocado en desafiar dicha complejidad, impulsando soluciones digitales de innovación junto con nuestros clientes, partners y organizaciones que generan valor, crecimiento de negocio y cambios positivos.

Nuestro amplio expertise tecnológico y sólida experiencia en soluciones clave como Customer Experience, Agilidad de Negocio, Cloud Data o Ciberseguridad, nos permiten aumentar la eficacia operativa y adoptar modelos de negocio que se adaptan a las necesidades y evolución continua de cada industria.