AWS ha anunciado recientemente las instancias runtime, una nueva opción de computación en Amazon Bedrock AgentCore diseñada para proporcionar infraestructura persistente a los agentes de inteligencia artificial. Esta solución permite que los agentes mantengan su estado durante flujos de trabajo complejos que pueden extenderse por horas o días.
Las instancias runtime ofrecen una infraestructura EC2 gestionada por AWS, donde se pueden desplegar múltiples agentes en un solo entorno, cada uno con sus propias dependencias. Los agentes pueden colaborar en sesiones compartidas que persisten hasta 14 días, lo que optimiza la coordinación y el uso de recursos. Además, la solución soporta aceleración por GPU para tareas computacionales intensivas y permite la detención y reanudación de sesiones para ahorrar costos durante períodos de inactividad.
Antes de esta innovación, las empresas debían gestionar su propia infraestructura para mantener agentes activos durante días o para acceder a GPUs. Esto incluía la provisión de instancias EC2, configuración de redes y gestión de sesiones. Con las instancias runtime, AWS se encarga de toda esta complejidad, integrándose con las APIs y controles de identidad que los usuarios ya utilizan con microVMs de AgentCore.
Los desarrolladores de agentes se beneficiarán de la capacidad de hacer que sus agentes se llamen entre sí dentro de una sesión compartida, permitiendo iteraciones autónomas hasta completar la tarea. Además, la implementación es sencilla, requiriendo solo un decorador y un archivo zip o imagen de contenedor. Esto significa que, si un flujo de trabajo se extiende por varios días, es posible hibernar y reanudar sin perder el progreso.
Las instancias runtime y las microVMs son opciones de computación complementarias que pueden utilizarse de forma independiente o conjunta. Un agente orquestador en microVM puede coordinar y despachar trabajo a agentes especializados en instancias, optimizando así el rendimiento y la eficiencia operativa en tareas que requieren acceso directo al sistema operativo y estado persistente.
Comentarios