Actualidad
Análisis
IA
Empresa

Nvidia apunta al futuro del ‘hardware’ de IA

Los CIO con grandes ambiciones de IA verán valor en las nuevas ofertas del fabricante de GPU: la nueva arquitectura de hardware Blackwell y un paquete de softwarepara optimizar la inferencia para varios modelos de IA populares.

Nvidia office

Nvidia ha apostado el futuro de la potencia de la GPU a la inteligencia artificial (IA). De hecho, un buen puñado de anuncios recientes ya se centran en impulsar las capacidades de la tecnología y ponerla a disposición de más organizaciones.

Durante su Conferencia de tecnología GPU celebrada a mediados de marzo, Nvidia presentó una vista previa de Blackwell, una nueva y potente GPU diseñada para ejecutar IA generativa en tiempo real en grandes modelos del lenguaje (LLM) de billones de parámetros, así como Nvidia Inference Microservices (NIM), un paquete de software para optimizar inferencia para docenas de modelos populares de IA.

El fundador y director ejecutivo de Nvidia, Jensen Huang, durante su discurso de apertura de dos horas de duración, también hizo varios anuncios, incluido un nuevo proyecto de robot humanoide.

Para los CIO que implementan un simple chatbot de IA o una IA que proporciona resúmenes de reuniones de Zoom, por ejemplo, Blackwell y NIM pueden no ser desarrollos innovadores, porque la GPU de menor potencia, así como CPU, ya están disponibles para ejecutar pequeñas cargas de trabajo de IA. Sin embargo, los CIO que buscan la potencia informática necesaria para entrenar IA para usos específicos o para ejecutar grandes proyectos de IA probablemente verán valor en el proyecto Blackwell. 

Y si las especificaciones de Blackwell sobre el papel se materializan en la realidad, la nueva GPU ofrece a Nvidia un rendimiento centrado en la IA que sus competidores no pueden igualar, afirma Alvin Nguyen, analista senior de Arquitectura Empresarial en Forrester Research. "Básicamente, en este momento tienen una solución integral desde el chip hasta los centros de datos", comenta.

 

Potencia inigualable para la IA

Para los CIO con aspiraciones de IA, el anuncio de Blackwell implicará la capacidad de experimentar con súper chips o servidores dedicados, añade Nguyen. Blackwell permitirá a las empresas con grandes necesidades de IA implementar los llamados superpods, otro nombre con el que han bautizado a las supercomputadoras de IA. Blackwell también permitirá a las empresas de gran capital establecer fábricas de IA, compuestas por recursos informáticos integrados, almacenamiento, redes, estaciones de trabajo, software y otras piezas.

Los argumentos a favor de Blackwell son claros, añade Shane Rau, vicepresidente de Investigación de Semiconductores de IDC. A medida que los modelos de IA crecen, requerirán más rendimiento para el entrenamiento y la inferencia, el proceso que utiliza una IA entrenada para sacar conclusiones a partir de nuevos datos, afirma.

A medida que se implementen las IA de LLM capacitadas en 2024, “los CIO aprenderán qué funciona y qué no, por lo que comenzará un ciclo de reentrenamiento y redistribución”, dice Rau. "Por lo tanto, la necesidad de Blackwell debería ser fuerte".

Si las organizaciones no están capacitando a sus propios LLM, el caso de la IA para Blackwell depende en gran medida de sus industrias verticales y flujos de trabajo internos, agrega. "Cuanto más específica sea la carga de trabajo que tengan para las aplicaciones y menos recursos puedan utilizar, más tiempo tendrán que esperar para que se estandaricen la pila de soluciones de IA y el modelo de IA".

NIM, el paquete de software de Nvidia para optimizar la inferencia para varios modelos de IA, también debería ganar terreno en el mercado, porque muchas empresas no podrán entrenar IA para sus propósitos, afirma Rau.

"No todo el mundo tiene los recursos para entrenar e implementar modelos de IA a escala, ni la gente quiere comprar modelos generales cuando todo lo que necesitan es un modelo específico para sus cargas de trabajo identificadas", continúa. "Por lo tanto, serán necesarios modelos previamente entrenados y modelos de tiempo de ejecución listos para usar para que la gente de TI los compre y tal vez los ajuste un poco, para que la IA pueda escalar en las empresas y en Internet".

Más allá de la IA, la GPU Blackwell tendrá usos para los CIO con otras necesidades computacionales importantes, afirma Javier Muniz, CTO de LCC Attorney, un sitio web legal. "Las GPU como Blackwell podrían revolucionar los campos del análisis de datos, el modelado 3D, la criptografía e incluso la representación web avanzada, áreas donde la velocidad y la potencia de procesamiento son cruciales". “En términos de beneficios para los CIO, muchos tienen vastos conjuntos de datos que deben procesarse y analizarse. Las GPU pueden reducir drásticamente el tiempo necesario para estos cálculos”.

 

¿La IA escala?

Huang promocionó los beneficios de la computación acelerada impulsada por GPU para IA y otros fines durante su discurso de apertura, diciendo que la computación de propósito general "se ha quedado sin fuerza". Pero los numerosos anuncios de Nvidia durante la conferencia no abordaron algunos de los desafíos actuales en el lado del hardware de la IA.

El mercado de GPU todavía se está recuperando de la escasez de suministro impulsada por varios factores, incluida la alta demanda de los mineros de criptomonedas y los proyectos de inteligencia artificial. El liderazgo de Nvidia en el mercado de GPU de IA de alta gama debería preocupar a las empresas centradas en proyectos de IA, añade Subutai Ahmad, director ejecutivo de Numenta, un proveedor de una plataforma de escalado de IA basada en CPU que potencialmente compite con las GPU de Nvidia.

"El dominio de Nvidia, combinado con la escasez de GPU y piezas de GPU, significa que los CIO deben buscar alternativas", afirma Ahmad. "No pueden depender de una sola fuente y luego dejarlos abandonados en sus iniciativas de IA".

Mientras tanto, Huang, en su discurso, habló sobre la necesidad de ampliar la potencia informática para reducir el coste de la informática y al mismo tiempo ser sostenible. Pero la IA todavía tiene un problema de escala, dice Nguyen de Forrester. Hasta ahora, los costes y las necesidades de energía de la IA no disminuyen gradualmente a medida que las empresas agregan usuarios o cargas de trabajo.

Las empresas ahora pueden incluir más GPU en una carga de trabajo de IA, pero eso no es viable a largo plazo, afirma Nguyen.

Si bien Nvidia y otros proveedores de hardware destacan sus crecientes capacidades, sólo los hiperescalares ahora pueden permitirse fábricas de IA y los LLM de mayor rendimiento, añade Nguyen. "Se puede tener un rendimiento básico eficaz, pero aún existe el problema de escalabilidad a largo plazo", afirma.



CASOS DE ÉXITO

Accede a nuestra publicación de canal

DealerWorld Digital

Documentos ComputerWorld