Qualys, Inc., proveedor líder de soluciones disruptivas de TI, seguridad y cumplimiento basadas en la nube, ha anunciado hoy una importante actualización de su solución TotalAI para proteger las operaciones de Machine Learning (MLOps) desde la fase de desarrollo. Con la nueva versión, las organizaciones podrán probar rápidamente sus grandes modelos de lenguaje (LLM) incluso durante el ciclo de desarrollo, así como una protección más robusta y la integración de un escáner LLM interno para monitorizar el proceso. Según datos de reciente estudio, al 72% de los CISO le preocupa que las soluciones de IA generativa puedan provocar brechas de seguridad en su organización. La rápida adopción de la IA permite a las organizaciones avanzar a un ritmo sin precedentes, pero a menudo lo hacen sin implementar los controles de seguridad fundamentales necesarios para gestionar el riesgo.

Qualys TotalAI está diseñado específicamente para las realidades únicas del riesgo de la IA, yendo más allá de las evaluaciones básicas de infraestructura para probar directamente los modelos en busca de vulnerabilidades de jailbreaking, exposición de información confidencial y riesgos críticos en base al Top 10 de OWASP.

“A medida que la IA se convierte en un componente esencial de la innovación empresarial, la seguridad no puede ser ya una cuestión de último momento”, ha afirmado Tyler Shields, analista Senior del Enterprise Strategy Group (ESG). “Qualys TotalAI garantiza que solo se suben a producción modelos fiables y verificados, lo que permite una total agilidad y una mayor seguridad en el uso de la IA a nivel empresarial, ayudando a las organizaciones a alcanzar sus objetivos de innovación a la vez que gestionan sus riesgos de una manera eficaz”.

Tras la integración de las nuevas funcionalidades, ahora TotalAI ofrece:
· Priorización automática de riesgos de seguridad de la IA: Los hallazgos se asignan a tácticas del mundo real con las reglas MITRE ATLAS y se priorizan automáticamente a través del motor de scoring de Qualys TruRisk™, lo que ayuda a los equipos de seguridad, TI y MLOps a identificar los riesgos más críticos para el negocio.
· Desarrollo de aplicaciones de IA más rápido y seguro: Con el nuevo escáner LLM interno local, ahora los equipos técnicos pueden incorporar pruebas de seguridad integrales en los modelos LLM no sólo durante la puesta en marcha y la implementación, sino también durante el proceso de desarrollo, incorporando la seguridad y las pruebas de las aplicaciones de IA en los flujos de trabajo de CI/CD existentes.
· Defensa mejorada contra amenazas emergentes de IA: TotalAI se ha expandido para detectar más de 40 escenarios de ataque diferentes, incluyendo jailbreaking, inyección de código, manipulación de prompts o amplificación de sesgos, entre otros. Los escenarios ampliados simulan tácticas adversarias reales y refuerzan la resiliencia del modelo contra exploits, impidiendo que los atacantes manipulen los resultados o eludan las protecciones.
· Protección contra exploits multimodales con cobertura de amenazas multimodales: La detección multimodal mejorada de TotalAI identifica prompts o perturbaciones ocultas en archivos de imágenes, audio y vídeo diseñados para manipular los resultados del LLM, lo que ayuda a las organizaciones a protegerse contra exploits multimodales.

“La IA está transformando la forma en que operan las empresas, pero con esa innovación surgen nuevos y complejos riesgos”, destaca por su parte Sumedh Thakar, CEO de Qualys. “TotalAI ofrece la visibilidad, la inteligencia y la automatización necesarias para proteger las cargas de trabajo de IA en cada una de sus etapas, desde el desarrollo hasta la implementación. Una solución pionera que ayudará a las empresas a innovar con confianza y a la vez mantenerse a la vanguardia antes las amenazas emergentes de la IA”.