La GPU NVIDIA H100 Tensor Core utilizada en la nueva serie de máquinas virtuales de Microsoft Azure ya está disponible de forma general

La GPU NVIDIA H100 Tensor Core ya está disponible en las máquinas virtuales de Microsoft Azure.

Los usuarios de Microsoft Azure ahora pueden recurrir a la última tecnología de computación acelerada de NVIDIA para entrenar e implementar sus aplicaciones generativas de IA.

Disponible hoy, las VM de Microsoft Azure ND H100 v5 que utilizan GPUs NVIDIA H100 Tensor Core y la red NVIDIA Quantum-2 InfiniBand, permiten escalar aplicaciones generativas de IA, cómputo de alto rendimiento (HPC) y otras aplicaciones con un clic desde un navegador.

Disponible para clientes en todo Estados Unidos, la nueva instancia llega en un momento en que los desarrolladores e investigadores están utilizando modelos de lenguaje grandes (LLM) y computación acelerada para descubrir nuevos casos de uso para consumidores y empresas.

La GPU NVIDIA H100 ofrece un rendimiento de clase de supercomputadora a través de innovaciones arquitectónicas, que incluyen núcleos Tensor de cuarta generación, un nuevo motor Transformer para acelerar LLM y la última tecnología NVLink que permite a las GPUs comunicarse entre sí a 900 GB/s.

La inclusión de NVIDIA Quantum-2 CX7 InfiniBand con un ancho de banda de 3,200 Gbps entre nodos garantiza un rendimiento fluido en las GPUs a gran escala, equiparando las capacidades de las supercomputadoras de mayor rendimiento a nivel mundial.

Escalando con VM v5

Las VM ND H100 v5 son ideales para entrenar y ejecutar inferencias en modelos de LLM y de visión por computadora cada vez más complejos. Estas redes neuronales impulsan las aplicaciones generativas de IA más exigentes y que requieren más capacidad de cómputo, como la respuesta a preguntas, la generación de código, la generación de audio, video e imágenes, el reconocimiento de voz y más.

Las VM ND H100 v5 logran hasta 2 veces más velocidad en inferencias de modelos LLM, como el modelo BLOOM 175B, en comparación con instancias de generaciones anteriores, lo que demuestra su potencial para optimizar aún más las aplicaciones de IA.

NVIDIA y Azure

Las GPUs NVIDIA H100 Tensor Core en Azure brindan a las empresas el rendimiento, la versatilidad y la escala necesarios para potenciar sus cargas de trabajo de entrenamiento e inferencia de IA. La combinación agiliza el desarrollo e implementación de IA en producción con el conjunto de software NVIDIA AI Enterprise integrado con Azure Machine Learning para MLOps, y ofrece un rendimiento de IA de nivel máximo en los benchmarks MLPerf estándar de la industria.

Además, al conectar la plataforma NVIDIA Omniverse a Azure, NVIDIA y Microsoft brindan a cientos de millones de usuarios empresariales de Microsoft acceso a potentes recursos de digitalización industrial y supercomputación de IA.

Obtenga más información sobre las nuevas instancias Azure v5 impulsadas por GPUs NVIDIA H100.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

Las mejores herramientas de Data Warehousing en 2023

Un almacén de datos es un sistema de gestión de datos para informes, análisis y almacenamiento de datos. Es un almacé...

Ciencias de la Computación

Chattanooga siembra semillas cuánticas.

Chattanooga, TN, abrirá la primera red cuántica disponible comercialmente en los Estados Unidos a finales del próximo...

Inteligencia Artificial

Conoce AnyLoc El último método universal para el reconocimiento visual de lugares (VPR)

A medida que el campo de la Inteligencia Artificial avanza constantemente, ha encontrado su camino en numerosos casos...

Inteligencia Artificial

ChatGPT con Ojos y Oídos BuboGPT es un Enfoque de IA que Permite la Fundamentación Visual en LLMs Multi-Modales

I had trouble accessing your link so I’m going to try to continue without it. Los Modelos de Lenguaje Grandes (...

Inteligencia Artificial

Investigadores de UC Berkeley presentan Nerfstudio un marco de trabajo en Python para el desarrollo de Neural Radiance Field (NeRF)

¿Quién no es fan de Iron Man? Se ve realmente genial cuando está trabajando en su laboratorio. Todos los hologramas y...