La Inteligencia Artificial (IA) se desarrolla cada vez más para analizar señales neuronales, modelar comportamientos y anticipar patrones de toma de decisiones. Esto está marcando un cambio de paradigma: pasar de sistemas centrados únicamente en el procesamiento de datos a tecnologías capaces de interpretar e interactuar con la cognición humana. Durante Kaspersky HORIZONS, la conferencia anual de referencia de Kaspersky sobre el futuro de la ciberseguridad en Europa, celebrada este año en Roma el 19 de mayo, la compañía analizó qué implica esta evolución de la IA para la privacidad mental y la autonomía cognitiva.

Aunque los sistemas actuales de IA no pueden leer ni descifrar directamente los pensamientos humanos con precisión, sí cuentan con capacidades capaces de influir en el comportamiento y moldear decisiones mediante sistemas de recomendación, personalización y control masivo de la información. En este sentido, representan un riesgo real y creciente tanto para la ciberseguridad como a nivel social y tecnológico, aunque los escenarios más extremos sigan siendo especulativos.

Los analistas del equipo Global Research and Analysis Team (GReAT) de Kaspersky prevén que, a medida que evolucionen los sistemas de IA cognitiva, se intensifiquen cuatro riesgos de seguridad emergentes:

1. La ingeniería social será más compleja y engañosa
Los Large Language Models (LLM) ya están transformando la ingeniería social en una amenaza mucho más sofisticada y convincente. Los ciberdelincuentes pueden generar correos electrónicos y páginas de phishing cada vez más creíbles. Con la IA cognitiva, podrían además aprovechar plataformas sociales y grandes volúmenes de datos para crear fraudes altamente personalizados, utilizando información conductual y perfiles psicológicos para aumentar sus tasas de éxito. Los intentos de phishing podrían generarse dinámicamente, adaptarse al contexto y apelar a las emociones de las víctimas, haciéndolos mucho más convincentes.

Esto puede afectar tanto a particulares como a organizaciones mediante robos de datos y fraudes financieros. El último informe global de Kaspersky Security Services, “Anatomía de un mundo Cibernético”, muestra que el phishing representa aproximadamente el 15% de las técnicas de ataque más utilizadas. En este contexto, el phishing puede convertirse en una puerta de entrada eficaz para ciberataques APT y otras formas sofisticadas de cibercrimen dirigidas a empresas y organismos gubernamentales.

2. La manipulación cognitiva influirá en la opinión pública
Más allá de los ciberataques individuales, la IA permite desarrollar operaciones de influencia a gran escala capaces de moldear la opinión pública. Actores como grupos hacktivistas o amenazas persistentes avanzadas (APT) podrían explotar sesgos cognitivos y estímulos emocionales sobre poblaciones enteras. Las redes sociales ya muestran cómo los sistemas algorítmicos pueden reforzar cámaras de eco y amplificar la polarización, mientras que campañas políticas y empresas utilizan técnicas de microsegmentación y comportamiento para influir en los usuarios. A medida que estas capacidades evolucionen, la diferencia entre predecir el comportamiento y moldearlo activamente será cada vez menos clara. Esto genera riesgos sistémicos no solo para la autonomía individual, sino también para la confianza pública.

3. El perfilado impulsado por IA facilitará abusos predictivos
El perfilado basado en IA se está convirtiendo en una potente herramienta de abuso. Mediante la agregación de datos procedentes de redes sociales, comportamiento digital y otras fuentes, la IA puede construir perfiles psicológicos y de identidad extremadamente detallados de las personas. Esto amplifica significativamente fenómenos como el doxxing y otros abusos tecnológicos. Información que antes estaba fragmentada ahora puede correlacionarse automáticamente, exponiendo datos sensibles, vinculando identidades y facilitando campañas de acoso dirigidas a gran escala.

Al mismo tiempo, los modelos predictivos introducen el riesgo de que las personas sean juzgadas o señaladas por comportamientos inferidos y no por acciones reales. Esto desplaza la amenaza desde la pérdida de privacidad hacia la pérdida de control sobre la propia identidad y sobre cómo esta puede utilizarse en contra del individuo.

4. Las interfaces cerebro-computadora convergen con el IoT
Aunque todavía se encuentran en una fase mayoritariamente experimental, las interfaces cerebro-computadora (BCI) ya se utilizan para facilitar la comunicación de pacientes mediante la interpretación de señales neuronales. Las investigaciones actuales están ampliando sus capacidades más allá de la interacción básica, incluyendo el control de dispositivos externos. Es aquí donde las BCI comienzan a converger con el Internet de las Cosas (IoT).

En la práctica, las señales neuronales pueden utilizarse para enviar comandos a sistemas conectados, como dispositivos domésticos inteligentes, tecnologías de asistencia o equipamiento médico. Aunque esta integración ofrece importantes beneficios, especialmente en sanidad y accesibilidad, también extiende los riesgos de ciberseguridad hacia nuevos ámbitos. Sistemas comprometidos podrían permitir acciones no autorizadas a través de la interfaz neuronal del usuario, incluida la interceptación de señales, la manipulación de respuestas de dispositivos o la explotación del vínculo entre intención y ejecución. Como resultado, los riesgos de seguridad dejan de limitarse a la infraestructura digital y alcanzan también los sistemas físicos y la autonomía humana.

“Aunque la IA cognitiva todavía se encuentra en una fase temprana y lejos de una adopción masiva, su desarrollo avanza rápidamente. Se espera que los modelos avanzados de interacción entre humanos e IA se generalicen considerablemente en las próximas décadas. A medida que aumente su adopción, también lo harán los riesgos asociados, y debemos estar preparados para ello”, afirma Noushin Shabab, investigadora principal de seguridad en el equipo Global Research and Analysis Team de Kaspersky.

Abordar estos desafíos requerirá una colaboración proactiva entre la comunidad de ciberseguridad, desarrolladores de IA, científicos y responsables políticos. Tal y como explicó Teresa Potenza, periodista y educadora especializada en IA responsable que participó en la conferencia: “El verdadero riesgo de la IA cognitiva es que moldea nuestras mentes de forma silenciosa y a gran escala. Ya hemos aprendido que los sistemas optimizados para maximizar la interacción erosionan la capacidad de juicio. Por eso la regulación se convierte ahora en una defensa de la autonomía humana, aunque no podrá seguir el ritmo de la IA cognitiva si solo aborda lo que estos sistemas hacen hoy. Necesitamos un principio claro y aplicable: la tecnología debe servir a las personas, y no al revés. La autonomía no es solo una cuestión de privacidad, sino también de democracia”.