Archivo de la etiqueta: Hugging Face

Check Point Software alerta del peligro de que la IA tome decisiones de ciberseguridad sin una cadena de custodia del contexto

Publicado el por
Digital alert showing AI decision risk with cybersecurity context, two professionals discussing

Check Point® Software Technologies Ltd., pionero y líder global en soluciones de ciberseguridad, ha analizado los desafíos emergentes en la seguridad de los agentes de inteligencia artificial a raíz del reciente incidente de evaluación cibernética entre OpenAI y Hugging Face. Este demuestra cómo los modelos de IA orientados a objetivos pueden encadenar vulnerabilidades, credenciales robadas y accesos a internet para cumplir sus metas, convirtiendo los datos de entrada en instrucciones efectivas y planteando una nueva frontera de riesgos en las infraestructuras corporativas.

Sigue leyendo →

Incidentes de IA relacionados con Claude y OpenAI: por qué las normas de la Ley de IA de la UE llegan en el momento justo

Publicado el por

El próximo 2 de agosto entrarán en vigor gran parte de los elementos restantes de la Ley de IA de la UE, la primera normativa de la UE sobre IA para aportar más disciplina y seguridad. ¿Qué significa esto para las empresas y cómo pueden prepararse?

En las últimas semanas, hemos visto dos ejemplos de cómo la IA puede crear brechas de seguridad y poner en riesgo los datos, como el ataque a Hugging Face por parte de ChatGPT o la filtración de conversaciones de usuarios con Claude. Dos ejemplos que ponen de manifiesto la importancia de regular la IA y por qué la Ley de IA de la UE llega en el momento justo.

Sigue leyendo →