Oracle Cloud Infrastructure es la primera en hacer que las GPU NVIDIA A100 estén ampliamente disponibles en la nube

Oracle ha anunciado hoy que es el primer proveedor de nube importante en hacer que la GPU NVIDIA A100 Tensor Core esté disponible de forma generalizada en instancias bare metal. Las últimas instancias de GPU de Oracle permiten a los clientes de industrias como la automoción y aeroespacial ejecutar aplicaciones complejas, intensivas en datos y de alto rendimiento, como el modelado y las simulaciones, de manera más eficiente y a un coste menor que nunca.

Oracle Cloud Infrastructure, que corre las GPU NVIDIA A100 Tensor Core en instancias bare metal, puede ejecutar modelos de IA complejos y sistemas de aprendizaje profundo entre dos veces y media y seis veces más rápido que las instancias con generaciones anteriores de GPU. Cuando se ejecuta en Oracle Cloud, la nueva GPU A100 puede ayudar a las empresas a obtener más valor de sus datos e innovar más rápido, lo que permite lograr avances importantes como probar y desarrollar nuevos medicamentos, construir aviones más seguros y obtener recursos naturales rápidamente. Además, los clientes pueden ejecutar por primera vez sus complejas aplicaciones HPC usando GPUDirect sobre la red NVIDIA Mellanox RDMA, la cual permite a clusters de miles de GPU, conectadas con una latencia de microsegundos, proporcionar una masiva potencia computacional bajo demanda.

“Desde su inicio, Oracle Cloud Infrastructure se ha estandarizado en las GPU de NVIDIA, comenzando con la generación Pascal, pasando a Volta y ahora con Ampere. Nuestros clientes exigen lo mejor de on-premises con todos los beneficios del cloud, que es lo que estamos ofreciendo con nuestra más reciente instancia de GPU que se ejecuta en la última GPU A100 de NVIDIA”, dijo Karan Batta, vice president, Oracle Cloud Infrastructure. “Tenemos la oferta A100 más grande, de mayor rendimiento y más rentable en la nube porque ofrecemos el doble de memoria y más almacenamiento local que la competencia. Esta es la petición de GPU que los clientes estaban esperando para pasar a la nube y conseguir avances relevantes”.

“La computación acelerada es esencial para impulsar avances en la investigación para empresas de todas las industrias”, dijo Ian Buck, general manager and vice president of Accelerated Computing at NVIDIA. “Al incorporar las GPU NVIDIA A100 Tensor Core a su servicio en la nube y ofrecer la capacidad de escalar a más de 500 GPU interconectadas con redes Mellanox, Oracle ofrece el rendimiento informático necesario para acelerar el trabajo más crítico que se realiza hoy en día en Inteligencia Artificial y HPC”.

La GPU NVIDIA A100 Tensor Core corriendo sobreOracle Cloud Infrastructure
La nueva instancia bare metal, GPU4.8, cuenta con ocho GPU NVIDIA A100 Tensor Core con 40 GB de memoria cada una, todas interconectadas a través de NVIDIA NVLink ™. La CPU tiene 64 núcleos físicos de procesadores AMD Rome que se ejecutan a 2,9 GHz con el apoyo de 2.048 GB de RAM y 24 TB de almacenamiento NVMe. La nueva instancia de GPU bare metal de Oracle se une a la arquitectura Cluster Network de alta velocidad y baja latencia, lo que permite a los clientes escalar a más de 500 clústeres de GPU con NVIDIA Mellanox RDMA sobre Ethernet convergente (RoCE) para cargas de trabajo distribuidas a gran escala que requieren RDMA y proporcionando hasta 1,6 TB de ancho de banda por nodo bare metal.

Además de la instancia bare metal, las organizaciones podrán desplegar una, dos o cuatro GPUs por máquina virtual en los próximos meses. Estas formas de instancia también ofrecerán a los clientes acceso a todos los conjuntos de herramientas existentes, como máquinas virtuales de ciencia de datos preconfiguradas y optimizadas para GPU, para ejecutar cualquier HPC o contenedores de aprendizaje profundo de NVIDIA NGC, un nodo nativo cloud de contenedores optimizados GPU y SDK específicos.

Expandiendo el ecosistema GPU
Como parte de las noticias de hoy, Oracle anuncia imágenes, stacks de soluciones y servicios que amplían la capacidad de los usuarios para extraer valor de sus datos, y que incluyen:

AI Engineered MLOps Solution Stack –Automatiza el flujo de trabajo de un extremo a otro utilizando Apache Airflow y creando una instancia de un cluster de formatos bare metal NVIDIA A100 para entrenamiento y conclusiones distribuidos.

Media Ops Packaged Solution Stacks – Automatiza los flujos de trabajo aprovechando el marco de Apache Airflow para ejecutar un canal de operaciones de medios autogestionado en Oracle Cloud. Esto mejora la capacidad de los clientes para comprimir, empaquetar y distribuir contenido.

Cloud Native MLOps Orchestration Package – Permite a los científicos de datos centrarse en la innovación mediante el uso de Kubeflow de código abierto junto con imágenes diseñadas por Oracle Cloud Infrastructure y la imagen en la nube de NGC para automatizar el movimiento de datos y la creación de peticiones de computación.

Julia AI HPC Image – Stack de automatización para imagen HPC diseñada con Julia, instalada con Jupyter Notebook y entorno de desarrollo IJulia que ha sido probado y optimizado para GPU NVIDIA A100. Junto con la tecnología Multi-Instance GPU NVIDIA A100 y el patrón Oracle HPC, el entorno está demostrando ser más rápido que los sistemas más antiguos con Python.

Pre-configured Data Science y AI Image – Incluye las bibliotecas de redes neuronales profundas de NVIDIA, marcos de aprendizaje profundos / machine learning comunes, los cuadernos Jupyter y los entornos de desarrollo integrados comunes de Python/R. Disponible en Oracle Cloud Marketplace.

IDenTV proporciona análisis de video avanzados basados en capacidades de inteligencia artificial impulsadas por visión computerizada, reconocimiento de voz automatizado y clasificadores semánticos textuales. “La cantidad de datos de transmisión de video generados está creciendo exponencialmente. Ofrecer análisis e información en tiempo real demanda el más alto nivel de unidades de procesamiento gráfico”, dijo Amro Shihadah, founder and COO, IDenTV. “Oracle Cloud Infrastructure lo ofrece con la nueva GPU NVIDIA A100, con la que esperamos una ganancia de rendimiento inmediata del 35 por ciento”.

DeepZen produce soluciones de voz digital para audiolibros, publicidad, marketing, voz de marca y otros tipos de contenido vocal, incluidos podcasting, juegos y asistentes virtuales. “Replicar la voz humana con IA depende en gran medida de la potencia de procesamiento y Oracle Cloud Infrastructure lo ofrece con la nueva GPU NVIDIA A100”, dijo Kerem Sozugecer, co-founder y CTO, DeepZen Limited.”Proporcionó un aumento de rendimiento inmediato del 37 por ciento, lo que nos permitió escalar nuestro negocio”.

Oracle for Startups
Con el aprendizaje automático y las aplicaciones de uso intensivo de la computación explotando, las compañías ya se están beneficiando de la asociación de Oracle y NVIDIA. Mediante el partnership entre Oracle for Startups y NVIDIA Inception, Oracle está acelerando las startups de inteligencia artificial con el profundo expertise técnico de NVIDIA y la tecnología de GPU líder en la industria en Oracle Cloud. Las startups también se están beneficiando de la capacidad de ambas empresas para conectarlas con potenciales clientes y aprovechar los vastos recursos de marketing y de creación de negocio esenciales para su crecimiento.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .