AWS Lambda incorpora instancias GPU para funciones de eventos
Cloud

AWS Lambda incorpora instancias GPU para funciones de eventos

AWS Lambda ahora permite el uso de instancias GPU para funciones de eventos, optimizando la ejecución de cargas de trabajo de aprendizaje automático y procesamiento multimedia. Esta característica mejora la utilización de GPUs y simplifica la gestión operativa.

19 de noviembre 20262 min de lectura AWS Blog
0 comentarios

AWS Lambda ha anunciado recientemente el soporte para instancias GPU en funciones de eventos, utilizando instancias EC2 de la serie G. Esto permite ejecutar cargas de trabajo aceleradas por GPU, como inferencias de aprendizaje automático, procesamiento multimedia y computación científica, con la simplicidad del modelo serverless.

Las funciones aceleradas por GPU se implementan como imágenes de contenedor (OCI), lo que elimina la necesidad de gestionar controladores de GPU, versiones de CUDA o AMIs. Lambda se encarga de la provisión, escalado e integración de eventos, lo que representa un avance significativo para las empresas que buscan ejecutar cargas de trabajo GPU sin complicaciones.

La demanda de servicios que permitan ejecutar cargas de trabajo GPU de forma serverless ha crecido, ya que gestionar infraestructura GPU por cuenta propia implica seleccionar instancias, instalar controladores y planificar la capacidad. Además, el costo de las GPUs suele ser elevado, y su utilización puede ser baja, lo que resulta en un gasto innecesario. Con esta nueva funcionalidad, las empresas pueden ejecutar funciones en minutos, optimizando el uso de cada GPU y consolidando funciones en instancias para mantenerlas ocupadas.

Las aplicaciones que se pueden desarrollar incluyen inferencias de modelos personalizados, procesamiento y transcodificación de medios, renderizado 3D y computación científica. Esta capacidad está diseñada principalmente para la inferencia, en lugar de entrenamiento, y permite la ejecución de modelos de tamaño pequeño a mediano dentro de aplicaciones.

Las funciones aceleradas por GPU también se integran en el modelo de programación de Lambda, permitiendo la orquestación de flujos de trabajo de múltiples pasos y la ejecución de trabajos de larga duración, como la transcodificación de medios, sin necesidad de reestructurar la arquitectura existente. Además, soportan imágenes de contenedor de hasta 32 GB, lo que amplía las posibilidades de implementación para las empresas que buscan aprovechar la computación acelerada en la nube.

Comentarios