Check Point Research descubre el ‘Prompt Adware’: una nueva amenaza de seguridad empresarial que manipula de forma oculta las instrucciones de la IA

Check Point Research, la división de Inteligencia de Amenazas de Check Point® Software Technologies Ltd., pionero y líder global en soluciones de ciberseguridad, ha descubierto una nueva técnica de manipulación denominada ‘Prompt Adware’. A través del análisis del paquete de jailbreak Haiou en OpenAI Codex, los investigadores demostraron cómo las instrucciones ocultas de lenguaje natural y los archivos de configuración pueden alterar persistentemente el comportamiento de un agente de IA sin necesidad de ejecutar código malicioso tradicional.

A diferencia del adware convencional que modifica software ejecutable, el prompt adware manipula de forma persistente las instrucciones globales, Skills o configuraciones del agente. En el caso documentado por CPR, Haiou modifica las instrucciones globales de OpenAI Codex para que saludos habituales activen automáticamente anuncios que promocionan una pasarela (gateway) de IA de terceros.

Según Check Point Research, esta técnica consiste en alterar de manera oculta las instrucciones confiables de lenguaje natural para influir en las respuestas futuras. Durante la investigación, mientras Haiou logró introducir los anuncios en Codex, los experimentos realizados en Claude Code demostraron que este último identificó el intento de inyección de prompts y se negó a ejecutar la instrucción. Aunque no se observó que Haiou robase datos corporativos, el mecanismo utilizado sienta las bases para futuras manipulaciones más severas, como sesgar consejos técnicos, promover servicios o incluso exfiltrar información confidencial y ejecutar acciones maliciosas.

Esto plantea un nuevo reto de visibilidad en la cadena de suministro de IA. A diferencia del software tradicional, donde los equipos de seguridad rastrean el código ejecutable, la influencia de los prompts y configuraciones de terceros dificulta determinar qué está condicionando el comportamiento de un agente. Asimismo, aunque la pasarela promovida por Haiou no demostró ser maliciosa, investigaciones académicas citadas por CPR muestran que otras pasarelas de LLM han interceptado datos de usuarios, expuesto claves de acceso a la nube e inyectado llamadas a herramientas.

Según los investigadores, Haiou ofrece una indicación temprana de las técnicas que los equipos de seguridad deberán considerar, demostrando que los prompts, los Skills y las configuraciones de los agentes merecen la misma atención que los propios modelos cuando las organizaciones evalúan sus entornos de IA.

Para mitigar los riesgos derivados del prompt adware y proteger la cadena de confianza en los entornos de IA corporativos, Check Point Research recomienda a las empresas obtener visibilidad completa del uso de IA para identificar qué agentes y componentes de terceros se utilizan. Asimismo, aconseja revisar los prompts, Skills y configuraciones que influyen en el comportamiento del agente más allá del modelo subyacente, reforzar la gobernanza estableciendo qué herramientas y pasarelas externas están aprobadas, monitorizar constantemente los cambios persistentes en los archivos de configuración e instrucciones globales, y evaluar de manera integral tanto la información confidencial a la que tiene acceso el agente como los elementos externos que pueden influir en sus acciones.

Deja una respuesta

Este sitio utiliza Akismet para reducir el spam. Conoce cómo se procesan los datos de tus comentarios.