Qualys, Inc., proveedor pionero y líder en soluciones de gestión de riesgos basadas en la nube, ha hecho pública una serie de recomendaciones para neutralizar la cada vez más frecuente actividad de “agentes rebeldes” de IA (rogue agents) que toman decisiones por sí mismos para realizar acciones maliciosas.

Los rogue agents son agentes de inteligencia artificial que se comportan de manera no deseada, se salen de los límites previstos o actúan en contra de los objetivos y las instrucciones de quienes los han creado o desplegado. El pasado mes de julio, un agente de IA de OpenAI burló sus restricciones de seguridad, hackeó repositorios de Hugging Face. OpenAI no detectó el escape durante una semana mientras el agente operaba con total autonomía. En octubre, Tencent reconoció comportamientos no previstos en agentes de IA que realizaron miles de intentos de consulta a un servicio de mapas de Alibaba. A todos estos episodios se suman accesos no autorizados a sistemas gubernamentales australianos, así como intentos de intrusión contra organismos públicos de Estados Unidos y Canadá.