Muse Glimmer 30B de Meta llega a AMD para IA agente en local

Ayer, AMD anunció soporte desde el primer día para Muse Glimmer 30B de Meta. Esto permite ejecutar el modelo en local sobre hardware de AMD y habilitar IA agente directamente en el dispositivo. A medida que los agentes de IA asumen flujos de trabajo más complejos —con memoria, uso de herramientas y datos sensibles— ejecutar los modelos en local con frameworks como llama.cpp ayuda a los desarrolladores a depender menos de la infraestructura en la nube y mantener un mayor control sobre la privacidad y los costes.

En resumen:

  • Muse Glimmer 30B funciona en sistemas con AMD Ryzen™ AI Max+ o en estaciones de trabajo con una sola Radeon™ AI PRO R9700, usando frameworks abiertos como llama.cpp.
  • Con LM Studio, los desarrolladores con sistemas AMD compatibles y 32 GB o más de VRAM/VGM pueden descubrir, descargar y ejecutar el modelo en cuestión de minutos, y conectarlo a agentes como Hermes Agent u Open Claw mediante endpoints compatibles con OpenAI y Anthropic.
  • Lemonade integra Muse Glimmer 30B directamente en las aplicaciones a través de un binario local embebible de unos 4 MB, manteniendo modelos y datos en el dispositivo sin instalaciones adicionales.

Deja un comentario

Este sitio utiliza Akismet para reducir el spam. Conoce cómo se procesan los datos de tus comentarios.