Streetflow

NVIDIA DGX STATION A100

NVIDIA anunció su centro de datos de inteligencia artificial en una caja con NVIDIA DGX Station A100. Esto marca la segunda generación del DGX y afirma ser el único servidor de grupo de trabajo de IA integrado a petaescala del mundo. Este servidor viene con hasta 320 GB de memoria GPU y puede caber debajo de un escritorio.

Rendimiento de un datacenter, pero sin un datacenter.

La NVIDIA DGX Station A100 tiene cuatro de las GPU NVIDIA A100 recientemente anunciadas que se dice que ofrecen hasta 2.5 petaflops. Las GPU están interconectadas con NVIDIA NVLink que proporcionará hasta 320 GB de memoria, ideal para aplicaciones que consumen mucha memoria en inteligencia artificial y ciencia de la ciencia. NVIDIA DGX Station A100 también es compatible con la tecnología de GPU de instancias múltiples (MIG) de la empresa. MIG permite que una sola DGX Station A100 proporcione hasta 28 instancias de GPU separadas para ejecutar trabajos en paralelo y admitir varios usuarios sin afectar el rendimiento del sistema. Una de las bondades de la NVIDIA DGX Station A100 es que es increíblemente potente, pero pequeña y no necesita el tipo de alimentación y refrigeración que suelen necesitar los equipos del centro de datos. Esto significa que se puede usar en ubicaciones remotas sin agregar una gran cantidad de infraestructura adicional.

Hoy, la compañía también anunció la nueva GPU NVIDIA A100 de 80 GB. Al agregar la nueva versión de 80 GB a los sistemas DGX A100, la capacidad de memoria es de hasta 640 GB para abordar conjuntos de datos y modelos aún más grandes. NVIDIA afirma que los nuevos sistemas NVIDIA DGX A100 de 640 GB también se pueden integrar en la solución NVIDIA DGX SuperPOD para empresas, lo que permite a las organizaciones construir, entrenar e implementar modelos masivos de IA en supercomputadoras de IA listas para usar disponibles en unidades de 20 sistemas DGX A100.