FICO, líder mundial en software de analítica, ha publicado la quinta edición de su informe “State of Responsible AI”, realizado en colaboración con Corinium Global Intelligence, en el que se analiza cómo las organizaciones están adoptando prácticas de IA responsable, los primeros resultados que están obteniendo estas empresas y las barreras que aún persisten para aprovechar plenamente todo el potencial de esta tecnología.

El estudio analiza la opinión de 1.004 responsables sénior de tecnología, riesgos y datos, y ofrece una visión sobre la IA y la toma de decisiones empresariales. Una de las conclusiones principales destaca que, aunque las organizaciones han invertido miles de millones de euros en IA, el 71,5 % de las decisiones que afectan a los clientes todavía se toman sin utilizarla.

Esto, unido al hecho de que sólo el 5,2 % de los encuestados afirma tener actualmente mucha confianza a la hora de explicar sus decisiones basadas en IA, pone de manifiesto la necesidad de aplicar prácticas de IA responsable que mejoren la confianza y la transparencia. Al preguntar qué práctica de IA responsable marcaría una mayor diferencia, los encuestados señalaron con mayor frecuencia los estándares para el desarrollo de modelos de IA (71,9 %).

“La mayoría de las organizaciones puede decirte dónde y qué decidió su IA pero no tantos pueden responderte por qué”, afirma Scott Zoldi, chief analytics officer de FICO. “Esto apunta a una falta de estándares y técnicas de IA responsable, lo que afecta directamente a la disposición de las organizaciones a utilizar la IA en decisiones que afectan a los clientes. A medida que reguladores y clientes examinan cada vez más cómo se utiliza la IA en la toma de decisiones, la auditabilidad y la explicabilidad se convierten en innegociables”.

La explicabilidad se considera ya un factor de impacto

La regulación sobre la IA se está intensificando en todo el mundo, mientras los responsables políticos proponen nuevos marcos que exigen la aplicación de prácticas de IA responsable. Sin embargo, solo el 5,2 % de los líderes tecnológicos tiene actualmente mucha confianza en su capacidad para explicar sus decisiones basadas en IA a reguladores y clientes, mientras que más de un tercio (37,3 %) se muestra neutral o no tiene ninguna confianza. Si esta brecha no se aborda, podría hacer que los responsables de las empresas pierdan la confianza tanto de los reguladores como de los clientes.

De hecho, desde las organizaciones se reconoce la importancia de la transparencia: la mayoría considera que prácticas responsables como los estándares para el desarrollo de modelos (71,9 %) y las arquitecturas de modelos interpretables (67,9 %) son las que tienen un mayor potencial de impacto para la IA. También están invirtiendo activamente en prácticas de IA responsable: la mayoría utiliza herramientas de detección de sesgos (58,8 %) y audita sus modelos de IA de forma periódica (53,5 %).

Aún existen oportunidades sin explotar para maximizar el ROI de la IA

Aunque el 85,1 % afirma que la IA ha cumplido o superado sus expectativas de retorno de la inversión, la mayoría de las decisiones empresariales actuales siguen dependiendo de procesos tradicionales: intervención humana (33,3 %), sistemas basados en reglas (21,4 %) y analítica convencional (16,8 %). Reducir esta brecha requiere estándares responsables que generen confianza en la IA y permitan que esta tecnología participe en decisiones que todavía se basan en la intuición y en reglas heredadas.

Parte del problema reside en la falta de una infraestructura técnica compartida que permita coordinar las capacidades de IA responsable. Solo el 8,2 % de las organizaciones dispone actualmente de una única plataforma compartida para el despliegue de IA plenamente implantada, mientras que el 71,2 % cuenta con una plataforma de este tipo parcialmente implantada. Casi todos los encuestados (96,4 %) consideran que una mayor colaboración entre los responsables de IA y de tecnología en torno a una plataforma compartida permitiría obtener retornos adicionales.

La formación dentro de las organizaciones y la existencia de una visión compartida constituyen otra barrera. La resistencia al cambio (61,4 %) y la falta de una comprensión común de la IA (58,4 %) son los dos principales obstáculos para lograr una alineación interna en torno a la IA.

De cara al futuro, el 63,2 % señala que las competencias de los empleados se están quedando atrás respecto al ritmo de adopción de la IA como uno de los principales riesgos para los próximos cinco años, mientras que la pérdida de control sobre los sistemas de IA ocupa el último lugar (10,4 %) en la lista de preocupaciones. Esto sugiere que la principal preocupación de los responsables empresariales es que sus equipos sean capaces de mantener el ritmo.

“Hace un año existían serias dudas sobre si la IA generaría retornos. Hoy, la principal cuestión a la que se enfrentan los directivos es cómo escalar esta tecnología a toda la empresa”, afirma Lariza Carrera, directora de producción de Corinium Global Intelligence. “Cada vez más, la respuesta tiene menos que ver con la propia tecnología y más con las personas que la gestionan”.

Las barreras prácticas mantienen la IA autónoma en fase piloto

El potencial de la IA autónoma es real, pero los datos muestran que la mayoría de las organizaciones todavía está adoptando esta tecnología de forma gradual. Solo el 2,4 % de los líderes tecnológicos ha desplegado ampliamente IA autónoma en casos de uso orientados al cliente, mientras que el 71,5 % continúa en las primeras fases de exploración o en proyectos piloto. Las preocupaciones relacionadas con la seguridad (40,1 %) y los retos de integración o calidad de los datos (38,3 %) son las barreras más citadas para conseguir un ROI con la IA autónoma.

Los agentes no se encuentran entre las tecnologías de las que los responsables esperan obtener retornos a corto plazo. Durante los próximos 18 meses, los modelos de lenguaje específicos de cada dominio (49,5 %), la IA generativa (48,7 %) y las arquitecturas de modelos interpretables (46,6 %) encabezan la lista de tecnologías que se espera que impulsen el ROI, frente a los agentes (27,5 %).