Al cabo de de meses de presentación preliminar, NVIDIA ha anunciado la disponibilidad general de NVIDIA AI Enterprise, una nueva oferta de software diseñada para llevar las capacidades de IA a nivel general a través de vSphere de VMware. El anuncio también incluye la precertificación de AI Enterprise para su ejecución en determinados servidores X64 estándar equipados con GPUs, así como una asociación con Domino Data Labs para MLOps.
“La IA es real y tiene un valor real”, afirma Manuvir Das, responsable de informática empresarial de NVIDIA. Das sabe que es real porque NVIDIA ha ayudado a miles de clientes a implementar la IA en sus operaciones.
Sin embargo, la IA también ha resultado ser difícil de implementar, dijo. “Y la razón es que, por un lado, es un reto de principio a fin, desde la obtención de datos hasta el entrenamiento para producir modelos y luego desplegar los modelos a la producción”, dijo Das.
“Pero también es un problema de arriba a abajo, de toda la pila, porque hay que pensar en el hardware, el software, los marcos para facilitar el despliegue de la IA, así como en un ecosistema de ISVs que puedan llevar la IA y ponerla en manos del cliente”, continuó.
Esa es, en pocas palabras, la razón por la que NVIDIA ha desarrollado AI Enterprise. Ya disponible en su versión 1.0, AI Enterprise es un conjunto de herramientas, instrumentos, tecnologías y marcos de trabajo diseñados para facilitar que las empresas pongan las capacidades de IA en manos de los clientes.
Según Das, AI Enterprise consta de tres elementos principales. En primer lugar, incluye el kit de desarrollo de software (SDK) RAPIDS, que proporciona ciencia de datos acelerada en las GPU. En segundo lugar, NVIDIA ha habilitado marcos de aprendizaje automático tan populares como TensorFlow y PyTorch para que se ejecuten en las GPU. En tercer lugar, AI Enterprise incluye un motor de inferencia llamado Triton diseñado para desplegar los modelos en producción.
“Todo ello se ha reunido por primera vez en un paquete de nivel empresarial, totalmente soportado, certificado y disponible para todos los clientes del mundo”, afirma Das.
NVIDIA comenzó a trabajar con VMware hace aproximadamente un año, dijo Das. Al ejecutar AI Enterprise sobre Vmware vSphere, que Das denominó “el sistema operativo de facto” del centro empresarial, se reduce el listón para que los clientes empresariales empiecen a adoptar la IA.
“Casi todos los administradores de TI del mundo están familiarizados con VMware vSphere y con cómo desplegarlo”, dijo Das. “Lo que esto hace básicamente es crear para los clientes empresariales una plataforma que pueden simplemente consumir, en lugar de tener que construir”.
Los clientes potenciales tienen una serie de servidores certificados que pueden elegir para ejecutar AI Enterprise y vSphere. Hay sistemas de 1U y 2U acelerados por GPU de Dell, HPE, Lenovo y muchos otros fabricantes de equipos originales que han sido certificados para ejecutar el software. La idea es llevar la computación acelerada por IA a los mismos servidores que los clientes utilizan para ejecutar sus aplicaciones de línea de negocio (LOB), como las de recursos humanos o las de ERP, dijo Das. Esto ayuda a bajar el listón de la IA empresarial aún más, dijo.
NVIDIA AI Enterprise está precertificada para funcionar en vSphere sobre servidores estándar del sector de Dell, HPE y otros.
“Los mismos servidores que se han montado y apilado en nubes privadas y centros de datos ahora pueden utilizarse para la IA, con una pequeña cantidad de GPU añadida al servidor: un coste incremental asequible y accesible”, dijo Das. Los servidores están certificados para ejecutar una variedad de GPU de NVIDIA, incluidos los modelos A100, A30, A40 y A10.
NVIDIA también ha dado a conocer una colaboración con Domino Data Lab, que desarrolla software diseñado para la transmisión del flujo de trabajo de la ciencia de datos. Según Das, Domino Data Lab satisface la necesidad de automatizar varias operaciones de aprendizaje automático, o MLops.
Según Das, la forma en que se suele hacer la IA es que los investigadores de I+D ajustan continuamente sus modelos. Los vuelven a entrenar a diario y los despliegan con frecuencia con la esperanza de mejorar su capacidad de predicción.
“No es lo suficientemente bueno para las empresas de TI”, dijo Das. “Domino Data Lab tiene un sistema integral que resuelve ese problema. Permite la reproducibilidad del mismo entrenamiento con el mismo conjunto de datos. Tiene varias capacidades para la gobernanza, de modo que el departamento de TI pueda entender de dónde proceden los modelos, qué modelos deben desplegarse y dónde.” Los clientes pueden desplegar AI Enterprise sobre VMware vSphere y obtener las ventajas descritas anteriormente. También tienen la opción de añadir Domino Data Lab a la mezcla, para obtener una mejor visibilidad en el flujo de trabajo de extremo a extremo, dijo.