NVIDIA anunció el 5 de octubre la adopción generalizada de la plataforma NVIDIA EGX™ AI por parte de las principales compañías tecnológicas del mundo, introduciendo así una nueva oleada de software, servicios y servidores seguros y acelerados por la GPU a los centros de datos empresariales y de borde.
Cientos de empresas de IA, 5G, CloudRAN, seguridad y redes están colaborando con los principales fabricantes de servidores, entre ellos Dell Technologies, Inspur, Lenovo y Supermicro, así como con los principales proveedores de infraestructura de software, entre ellos Canonical, Cloudera, Red Hat, SUSE y VMware, con el fin de aprovechar la plataforma EGX de NVIDIA para ayudar a las empresas a llevar la IA al borde.
Los sistemas basados en la plataforma NVIDIA EGX AI están disponibles por parte de los principales fabricantes de servidores, incluidos Dell Technologies, Inspur, Lenovo y Supermicro, con el apoyo de proveedores de infraestructuras de software como Canonical, Cloudera, Red Hat, SUSE y VMware, así como de cientos de nuevos emprendimientos.
Los principales sectores del mundo – manufactura, salud, minoristas, logística, agricultura, telecomunicaciones, seguridad pública y medios de difusión – se beneficiarán de la plataforma de IA de EGX para desplegar IA a escala.
NVIDIA también ha anunciado que la plataforma EGX se está expandiendo con el fin de combinar las capacidades de la GPU Ampere de NVIDIA y la DPU BlueField-2Ⓡ en una sola tarjeta PCIe, proporcionando a las empresas una plataforma común para el desarrollo de centros de datos seguros y acelerados. Las DPU BlueField-2 incluyen potentes núcleos de CPU de Arm que pueden utilizarse para crear un enclave de confianza para los modelos de inferencia de IA que se ejecutan en la GPU.
Según Jensen Huang, fundador y director ejecutivo de NVIDIA, quien hizo el anuncio en su discurso inaugural de la GPU Technology Conference, “empresas de todo el mundo utilizarán la IA para mejorar prácticamente todos los aspectos de su negocio. “Para apoyar este cambio masivo, NVIDIA ha creado una plataforma de cómputo acelerado que ayuda a las empresas a modernizar sus centros de datos e implementar la IA en cualquier lugar”.
Software de IA optimizado para el borde y el centro de datos
La base de la plataforma EGX es una pila de software de IA optimizada disponible en NVIDIA NGC™, un catálogo de software que ofrece una gama de kits de herramientas de IA específicos para cada sector y modelos pre-entrenados para facilitar el desarrollo e implementación de aplicaciones de IA en NVIDIA-Certified systems™.
Los principales proveedores de software de IA, como Deep North, Everseen y Whiteboard Coordinator, utilizan los marcos de aplicación de IA de NVIDIA para crear e implementar soluciones de asistencia sanitaria, comercio, logística y ciudades inteligentes.
Los productos de software de NVIDIA vGPU y las tecnologías GPUDirect® RDMA proporcionan a las GPU de NVIDIA la capacidad de enviar y recibir datos con el máximo de ancho de banda para desatar el máximo rendimiento.
Para ayudar a las empresas a desplegar la IA a escala, NVIDIA está trabajando con las principales compañías de plataformas, incluidas Canonical, Cloudera, Red Hat, SUSE y VMware, para que sus emblemáticas plataformas de virtualización, sistemas operativos, Kubernetes y analítica de datos estén totalmente optimizadas para el software IA de NVIDIA cuando se ejecuten en entornos físicos o virtualizados.
Despliegue y administre los servidores EGX en cualquier lugar
En lugar de tener 10.000 servidores en un solo lugar, los futuros centros de datos empresariales tendrán uno o más servidores en 10.000 lugares diferentes, incluyendo el interior de edificios de oficinas, fábricas, almacenes, torres celulares, escuelas, tiendas y bancos.
Con el fin de simplificar y asegurar la implantación y gestión a escala de las aplicaciones y modelos de IA en estos servidores, NVIDIA ha anunciado un programa de acceso temprano a un nuevo servicio denominado NVIDIA Fleet Command™. Esta plataforma de nube híbrida combina la seguridad y la capacidad del procesamiento en tiempo real de la computación en el borde con la gestión remota y comodidad del software como servicio.
A través de un plano de control unificado, Fleet Command centraliza la gestión de los servidores dispersos en amplias zonas, incluyendo fábricas, hospitales, comercios e incluso calles de la ciudad. El aprovisionamiento de un toque, las actualizaciones OTA, la gestión remota y los tableros de control detallados de Fleet Command facilitan a los equipos operacionales la reducción de la carga de TI para sacar el máximo provecho de sus aplicaciones de IA e impulsar la más alta eficiencia operativa.
Entre las primeras empresas en tener acceso temprano a Fleet Command se encuentra KION Group, líder en soluciones para la cadena de suministro global, que está utilizando la plataforma de IA de NVIDIA EGX para desarrollar aplicaciones de IA para sus sistemas de almacenes inteligentes, aumentando así el rendimiento y la eficiencia en los centros de distribución minorista.
Del mismo modo, Northwestern Memorial Hospital, el hospital número uno de Illinois y uno de los 10 mejores del país, está trabajando con Whiteboard Coordinator para utilizar Fleet Command para su plataforma de sensores de IoT, que incluye funciones de visión artificial, reconocimiento de voz y seguimiento por Bluetooth dentro de sus clínicas y centros médicos.
“Whiteboard Coordinator trabaja con los principales proveedores de servicios de salud para organizar sus aplicaciones, servidores e implementaciones de software desde cualquier lugar y en cualquier momento desde la nube”, dijo Andrew Gostine, Doctor en Medicina, CEO de Whiteboard Coordinator. “Estamos utilizando NVIDIA Fleet Command para desplegar de forma remota y gestionar de forma segura un conjunto de aplicaciones de inteligencia artificial para el sector sanitario en múltiples centros hospitalarios con unos pocos clics”. Esto nos permite concentrarnos más en aportar valor a los pacientes en lugar de dedicar horas a administrar la infraestructura”.
Disponibilidad
Los sistemas EGX de NVIDIA están en venta a través del catálogo de servidores cualificados para NVIDIA. Los servidores existentes habilitados para el software de IA de NVIDIA están disponibles en ASUS, Atos, Dell Technologies, Fujitsu, GIGABYTE, H3C, Inspur, Lenovo, Quanta/QCT y Supermicro.
El programa de acceso temprano a Fleet Command de NVIDIA está abierto a clientes cualificados.
