La agencia estadounidense encargada de frenar los riesgos de la IA carece de fondos para poder trabajar

La inteligencia artificial no solo representa un avance significativo para muchas empresas, sino también un riesgo presente que debe abordarse a nivel mundial. Esta realidad se refleja en elcaso de una agencia estadounidense, quienes tienen la tarea de gestionar los riesgos asociados a la IA. Aunque lamentablemente carecen de los fondos suficientes para abordar eficazmente el desafío en el tiempo establecido.

Esto se convierte en un verdadero obstáculo.Sin mencionar que las empresas de IAdisponen de mayores recursos en comparación con el NIST, a agencia encargada de mitigar sus riesgos en EE.UU. Especialmente, teniendo en cuenta el plazo tan agresivo en el que deben establecer estas directrices para evaluar modelos de IA. Además dedesarrollar un plan para lograr la aceptación de los nuevos estándares por parte de las naciones.

Situación adversa prueba la capacidad de la agencia reguladora de riesgos de IA

Esta situación adversa surge de una  orden ejecutiva emitida por la Casa Blanca, en la que designa al Instituto Nacional de Estándares y Tecnología (NIST);para establecer estándares rigurosos destinados a probar los LLM (Modelos de Lenguaje) de IA. Con el objetivo deasegurar la transparencia en el uso de la IA. Así como descubrir cualquier problema temprano que comprometa la integridad de la información y la privacidad de las personas.

Sin embargo, pese a tratarse de una tarea prioritaria para el avance tecnológico nacional, la agencia encargada de mitigar los riesgos de la IA no cuenta con una asignación de fondos adecuada.Al menos, no una cantidad que permita elcumplimiento de la fecha límite establecida para el 26 de julio de 2024. Por lo que conforme se acerca la fecha, se intensifican las dudas sobre su implementación.

NIST se queda atrás de los impulsores clave de la IA

Mientras gigantes como OpenAI, Google, Meta y Amazon continúan invirtiendo miles de millones de dólares para mantenerse a la vanguardia de las tendencias de IA. En comparación con el ajustado presupuesto de1.600 millones de dólares impuesto por la Casa Blanca. Aunque se planea un aumento de 29% para que así el NIST cumpla con los objetivos de cara al 2024. No obstante, la brecha financiera sigue planteando un desafío para la agencia.

Esto llevaría a miembros del Congreso a firmar una carta que involucra representantes de múltiples partidos políticos, en respuesta a las acciones del NIST. Así pues, expresando su preocupación sobre la forma en que la agencia está abordando la situación. En este sentido, citandola otorgación de subvenciones a organizaciones externas con un “poca transparencia”. Una medida que tiene como objetivo acelerar las investigaciones dedicadas a mitigar los riesgos de la IA antes de la fecha pautada.

El reto de crear un nuevo Instituto de Seguridad de IA

Por su parte, Jennifer Huergo (Portavoz del NIST)declaró querecibieron una carta y que abordarán las preocupaciones a través de los “canales apropiados”. Además,como parte de sus esfuerzos por aumentar la transparencia, emitieron una solicitud de información el 19 de diciembre. Demostrando así la disposición de la agencia para abordar las inquietudes y garantizar una gestión adecuada de los riesgos de la IA.

Es así como en su misión por promover un desarrollo saludable, el NIST solicitaaportes de empresas sobre cómo evaluar y establecer Red Teams externos.Esto como parte de sus responsabilidades impuestas por la Casa Blanca. Además de que trabajarán en la creación de un nuevo Instituto de Seguridad de Inteligencia Artificial, cuyo objetivo será garantizar la integridad de la información.

Desafíos a futuro para la agencia encargada de regular los riesgos de IA

A pesar de sus esfuerzos, la situación actual no luce favorable para el NIST,ya que cada vez más líderes se pronuncian sobre las preocupaciones. En este sentido, asegurando que para hacer bien su trabajo “necesitan más que mandatos y buenos deseos”, según Rumman Chowdhury (Director Ejecutivo de Party Consulting). De esta forma subraya la importancia de proporcionar los recursos necesarios a la agencia, tanto a nivel de fondos como de personal capacitado.

Gran parte de la industria reconoce lacontribución de la agencia en la regulación de los riesgos asociados a la IA en diversas ocasiones. Así comola creación de estándares en sectores como los materiales radioactivos. Sin embargo,esta situación en particular enfrentadesafíos significativos para competir con las grandes organizaciones del sector. Además de la presión impuesta por la Casa Blanca para encontrar rápidamente dichas soluciones.

Mientras tanto el NIST busca asumir de la mejor manera la responsabilidad de establecer directrices sólidas que permitan evaluar los modelos de IA del mercado. Así comodesarrollar un plan para promover estándares técnicos que garanticen un desarrollo seguro a nivel global.Para lograr esto, estaría en conversaciones con organizaciones clave, comoMicrosoft, Anthropic,y Partnership on AI, así como el Future of Life Institute.