La adopción de la inteligencia artificial en la Administración de Justicia y el Sector Público ha alcanzado un punto de inflexión donde la ciudadanía y los operadores jurídicos exigen el fin de las ‘cajas negras’ algorítmicas, un escenario marcado por la entrada en vigor de la AI Act europea que exige sistemas plenamente comprensibles, auditables y justificables.

Frente a este desafío y con motivo de la celebración del DATAfórum Justicia 2026 -se celebra del 21 al 23 de octubre en Palexco, A Coruña-, Softtek, líder en soluciones tecnológicas globales, ha destacado en su White Paper ‘Tech Hot Topics: Edición 2026’ que la IA Explicable (XAI) constituye la base técnica para auditar el comportamiento de un modelo algorítmico. Por su lado, el concepto Trust-Centric Experience representa la capacidad organizativa de traducir esa complejidad técnica en una interfaz clara que transmita control, seguridad e integridad jurídica al usuario final.

Para comprender mejor este panorama, es fundamental examinar los siguientes aspectos, según Softtek:

1. Superación del modelo ‘caja negra’ mediante trazabilidad: frente a la opacidad de los sistemas tradicionales de IA, el enfoque estratégico combina la capacidad técnica de la IA explicable (XAI) para auditar modelos con el diseño Trust-Centric, garantizando visibilidad, trazabilidad y justificación clara en cada decisión algorítmica para evitar sobreconfianza o errores.
2. Cumplimiento normativo y Compliance-by-Design: integrar los principios de transparencia, explicabilidad y divulgación desde la fase de concepción (Trust-Centric Experience by design) reduce significativamente la fricción con las exigencias del AI Act europeo y los procesos de auditoría, protegiendo a las organizaciones de sanciones severas y de la erosión del retorno de inversión.
3. Traducción de la complejidad técnica a la experiencia del usuario: a diferencia de la XAI, que actúa como soporte técnico de auditoría, el paradigma Trust-Centric Experience representa la capacidad organizativa para trasladar la lógica algorítmica a interfaces claras y comprensibles. Esto transmite control, seguridad, integridad jurídica y capacidad de intervención (override) al usuario final y a los operadores jurídicos.
4. Gobernanza dinámica y control en tiempo real: la experiencia centrada en la confianza incorpora mecanismos de retroalimentación, gestión de la incertidumbre y trazabilidad de datos (data lineage). Esto reemplaza las políticas estáticas por una gobernanza en tiempo real adaptada al nivel de riesgo de cada caso de uso.
5. Adopción y escalabilidad sostenible de la IA: la transparencia y la explicabilidad estructuradas desde el diseño eliminan la principal barrera de adopción en entornos regulados del Sector Público, lo que estandariza capacidades de confianza que facilitan escalar soluciones de inteligencia artificial de forma rápida, segura y consistente.

Doris Seedorf, CEO de Softtek para España, explica: “el usuario actual demanda inmediatez pero rechaza de plano cualquier resultado que no sea capaz de comprender. Mientras que la IA Explicable nos aporta el rigor técnico para auditar los algoritmos, la experiencia basada en la confianza es la facultad operativa de convertir esa complejidad técnica en una interfaz comprensible que garantice control e integridad jurídica. Mantener procesos opacos de ‘caja negra’ no solo multiplica el riesgo operativo y normativo, sino que compromete de forma directa el retorno de la inversión en inteligencia artificial”.