Una nueva investigación de Veeam® Software, compañía de Data y AI Trust, revela una creciente crisis de los “shadow agents” o “agentes en la sombra”, en las empresas de EMEA. Según los resultados, las organizaciones están luchando contra la IA no gestionada en dos frentes. En materia de seguridad de los datos, el 70 % de las organizaciones admite que los flujos de trabajo automatizados de IA interactúan con datos corporativos sensibles sin una supervisión completa. Mientras tanto, en el ámbito de la gobernanza, TI está perdiendo el control: el 67 % afirma que los empleados están creando flujos de trabajo autónomos de IA que los equipos de TI no pueden rastrear por completo. 

Mientras las organizaciones se apresuran a implementar la IA, los resultados ponen de manifiesto un reto fundamental: garantizar que los datos que alimentan a los agentes de IA sigan siendo fiables, seguros y resilientes. Sin la gobernanza, la visibilidad y la protección adecuadas, las empresas corren el riesgo de exponer información confidencial, aumentar los riesgos de cumplimiento normativo y socavar la base de datos fiables necesaria para escalar la IA de forma segura y con confianza.

La creciente presión regulatoria y la “responsabilidad corporativa” también están trasladando la gobernanza de la IA de los departamentos técnicos a los consejos de administración. Casi un tercio de las organizaciones (32 %) afirma que esta presión ya está generando tensión o conflictos entre los directivos.
 

La gobernanza de la IA es ahora una responsabilidad de los altos directivos

A medida que las obligaciones de cumplimiento normativo en la región EMEA se vuelven más complejas con la introducción de la responsabilidad jurídica personal de los altos directivos en materia de ciberresiliencia y cumplimiento normativo, la presión sobre ellos aumenta. El estudio reveló que el 58 % de las empresas encuestadas se ven ahora sujetas a nuevas leyes de responsabilidad corporativa. Sin embargo, resulta preocupante que uno de cada diez encuestados (12 %) afirmara que las responsabilidades individuales concretas son compartidas y poco claras.

Este aumento de la responsabilidad está teniendo un impacto evidente en los equipos directivos:

• El 40 % está preocupado por la responsabilidad personal o sus consecuencias.
• El 39 % señala un mayor escrutinio por parte del consejo de administración.
• El 37 % afirma que ha aumentado su estrés o ansiedad personal.
• El 32 % asegura que ha generado tensión o conflictos con otros directivos.

Sin embargo, la investigación también apunta a un cambio positivo: el 45 % afirma que el aumento de la responsabilidad ha mejorado la alineación y el enfoque a nivel de liderazgo.

«Los ejecutivos nunca habían tenido que prestar tanta atención a la gobernanza de los datos y a las normativas de ciberresiliencia”, afirma Tim Pfaelzer, director general y vicepresidente sénior para EMEA en Veeam. “Aunque el aumento del estrés y la tensión es completamente comprensible, si el resultado es una mejor alineación a nivel del consejo de administración, la organización estará mucho mejor posicionada para confiar en su gobernanza de los datos y de la IA en la era de los agentes autónomos. Una mayor alineación se traduce, en última instancia, en una mejor gobernanza, visibilidad y protección de los datos en toda la organización”.
 

Los “shadow agents” se extienden por EMEA más rápido de lo que la gobernanza puede asumir

Los resultados revelan un enfoque fragmentado de la gobernanza de la IA en EMEA. Alemania afronta desafíos especialmente importantes: el 81 % de los líderes admite que los flujos de trabajo automatizados interactúan con datos sensibles sin supervisión, mientras que el 79 % afirma que los empleados están creando “flujos de trabajo en la sombra” que los equipos de TI no pueden rastrear.

El Reino Unido afronta desafíos similares: el 75 % de las organizaciones afirma que carece de una supervisión adecuada de los agentes de IA que interactúan con datos sensibles.

Las organizaciones de Oriente Medio y África (MEA) constituyen una excepción, ya que el 41 % depende exclusivamente de proveedores globales de IA para todos los casos de uso, lo que sugiere que el marco regulatorio de la UE está teniendo un impacto importante en la gobernanza de la IA de las empresas de EMEA.

«Las organizaciones de EMEA todavía están adaptándose a la gobernanza en esta nueva era de agentes autónomos” añade Tim Pfaelzer, director general y vicepresidente sénior para EMEA en Veeam. “Pero los datos demuestran que el sector está teniendo una conversación equivocada sobre la confianza en la IA. Intentar controlar miles de agentes autónomos uno a uno simplemente no es escalable. Para hacer que la IA sea segura a nivel empresarial, las organizaciones necesitan proteger, gobernar y comprender los datos de los que dependen estos agentes”.

La brecha de confianza en la Ley de IA de la UE pone de manifiesto los riesgos de gobernanza

A esta presión se suma la Ley de IA de la UE. La normativa ya ha comenzado a entrar en vigor y se seguirán aplicando nuevos plazos de cumplimiento hasta 2028.

La investigación revela que, aunque una amplia mayoría (83 %) de los líderes considera que la Ley tendrá un impacto positivo en las organizaciones y en el entorno en general, el 62 % cree que las “ambigüedades o zonas grises” pueden generar riesgos de incumplimiento, mientras que otro 63 % teme que pueda introducir riesgos operativos o legales no deseados. El Reino Unido y Alemania muestran una preocupación especialmente elevada en este sentido: el 74,4 % y el 73,6 %, respectivamente, consideran que estas ambigüedades representan un riesgo de incumplimiento.