Los notables resultados que pueden producir GPT-4 y Chat-GPT han acaparado los titulares y las mentes de los líderes empresariales por igual. Las empresas buscan constantemente mejores productos, servicios y procesos internos a través de la inteligencia artificial (IA), pero deben tener en cuenta que los usos de estas tecnologías deben ser distintos para los objetivos finales. Ya se trate de la simulación de túneles de viento, la validación electrónica del diseño, los chatbots personalizados, la simulación de sistemas complejos con «gemelos digitales» u otros casos de uso, la IA ha despertado la imaginación en todos los sectores. Sin embargo, si bien los productos son los que más atención reciben actualmente, las tecnologías subyacentes (nube, computación de alto rendimiento (HPC), automatización y aprendizaje automático (ML) también están aumentando.
El impacto de la nube
Las organizaciones líderes han aprovechado la HPC y la IA durante décadas, utilizando clústeres de procesamiento especializados basados en CPU y GPU con una infraestructura de red y almacenamiento de baja latencia. Sin embargo, más recientemente, las organizaciones han recurrido a la nube, ya que los proveedores de nube pública han realizado las inversiones en infraestructura y los principales avances tecnológicos necesarios para satisfacer las crecientes demandas de rendimiento.
A diferencia de los modelos anteriores en los que el acceso de los usuarios a la computación se regía por los programadores de tareas y la capacidad local, el modelo basado en la nube permite un acceso casi instantáneo y sin esperas a la computación, donde los usuarios pueden trabajar con un clúster que satisfaga con precisión las necesidades de su aplicación. Elementos como las CPU con un elevado número de núcleos, los nodos con gran capacidad de memoria y el acceso al hardware básico han reducido la brecha entre las capacidades de la nube y las de los sistemas locales personalizados.
Sin embargo, la clave del éxito de la nube con HPC/AI será el acceso al software y a la experiencia relevante vinculados a los recursos de nube elásticos que pueden transformar la infraestructura base de los principales proveedores de nube pública en configuraciones verdaderamente de alto rendimiento. En un modelo basado en la nube, cada grupo puede tener clústeres con diferentes configuraciones y combinaciones de CPU, GPU, memoria y almacenamiento, incluso procesadores especiales disponibles solo en nubes públicas específicas.
Aprovechar las últimas innovaciones en la nube
A medida que la nueva tecnología esté disponible en la nube, los investigadores y científicos de datos se beneficiarán de un acceso rápido a los últimos avances en rendimiento y capacidades. En última instancia, la aceleración empresarial consiste en obtener mejores resultados con costos más bajos, y la HPC/IA basada en la nube se ha convertido en una capacidad que los CIO pueden utilizar para destacar la TI como una función en la que se produce innovación y se logra la eficiencia.
Con el soporte de software y servicios adecuado, las empresas innovadoras de todos los tamaños ahora pueden aprovechar rápidamente las capacidades que tradicionalmente solo estaban disponibles para las organizaciones más grandes con modelos de «pago por uso» que pueden vincular estrechamente las inversiones en informática con un ROI demostrado.
Para cumplir estos objetivos, los CIO buscan alinearse con los socios de servicios en la nube que tienen experiencia tanto en la infraestructura informática como en los modelos de descuentos por uso para varios tipos de instancias de CPU y GPU en las nubes públicas. Aquí es donde profundizar en las tecnologías subyacentes puede ser tan importante, ya que el ahorro de costos asociado con cambios de infraestructura aparentemente menores puede ser significativo, ya que convierte un ROI «bueno» en un ROI «máximo».
Por ejemplo, uno de los principales proveedores de nube pública ha introducido recientemente una configuración de HPC orientada a clústeres altamente ajustada basada en nodos con las últimas CPU de alto número de núcleos, gran capacidad de memoria e interconexiones de red especiales de alta velocidad, a precios extremadamente atractivos para los usuarios que realizan trabajos de computación a gran escala. Para los tipos de carga de trabajo correctos, identificar y aprovechar estos tipos de configuraciones previamente optimizadas puede suponer un punto de inflexión.
Optimización del ROI de la infraestructura y la implementación
Si bien los resultados de la IA están cambiando las reglas del juego en todos los sectores, son el resultado de los cálculos de miles de procesadores. Al final, el valor de la IA es tan bueno como la amplitud de los datos de entrenamiento y la velocidad a la hora de ofrecer respuestas a los usuarios (y los recursos necesarios para entrenar modelos a gran escala) y, posteriormente, producir resultados (lo que se conoce como «inferencia») pueden ser radicalmente diferentes.
Al iniciar el proceso de desarrollo de la IA, las organizaciones deben considerar simultáneamente sus necesidades de capacitación e inferencia. Por lo general, la formación se lleva a cabo de forma orientada a clústeres, con numerosos nodos potentes e interconectados basados en GPU que trabajan en conjunto para crear un modelo altamente ajustado. La realización de la inferencia (y la entrega del valor del modelo a los usuarios) suelen realizarla grandes bancos de nodos de inferencia menos potentes que trabajan de forma independiente para atender las solicitudes individuales.
Los entornos de implementación basados en la nube ofrecen a los usuarios la posibilidad de crear y probar fácilmente configuraciones de entrenamiento e inferencia basadas en una variedad de CPU y GPU para sus cargas de trabajo específicas. Si bien las GPU suelen ser la opción correcta para realizar capacitaciones a gran escala, la generación más reciente de CPU incluye capacidades integradas «similares a las de las GPU» que pueden convertirlas en excelentes opciones para inferir cargas de trabajo, tanto desde el punto de vista del rendimiento como del costo/ROI. Además, a medida que se introduzcan nuevas generaciones de procesadores en el futuro, la naturaleza bajo demanda de la nube permite evaluar y pasar rápidamente a las nuevas tecnologías de una manera que simplemente no es posible en entornos locales dedicados.
Fundación para la próxima ola de innovaciones
La inteligencia artificial ha estimulado la innovación en todos los sectores, y sus notables resultados han sido el centro de atención. Sin embargo, las tecnologías subyacentes, como la computación en nube, el HPC, la automatización y el aprendizaje automático, desempeñan un papel fundamental en esta revolución. El cambio a una infraestructura basada en la nube marca un hito importante, ya que hace que la IA sea más accesible y escalable. A medida que las organizaciones líderes siguen adoptando la HPC y la IA, los avances tecnológicos de la nube, junto con la mejora del modelado y la gestión de datos, impulsan a las industrias hacia un futuro con un potencial de IA ilimitado y sientan las bases para la próxima ola de innovaciones.
Penguin Solutions puede ser su socio estratégico de confianza para soluciones de IA y HPC. Con más de 25 años de experiencia en HPC y más de 7 años de diseño e implementación de infraestructuras de IA, y más de 85 000 GPU implementadas y administradas desde 2017, estamos listos para ayudarlo.
Póngase en contacto con los expertos en infraestructura de IA acuda hoy a Penguin Solutions para analizar las necesidades de sus proyectos de IA.
Phil Pokorny
Chief Technology Officer
Como nuestro Chief Technology Officer en Penguin Solutions, Phil aporta una amplia experiencia en ingeniería y conocimientos sobre los clientes al diseño, el desarrollo, el soporte y la visión de nuestras soluciones tecnológicas.
