Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 14 horas
Temario del curso
Preparación de modelos de aprendizaje automático para el despliegue
- Empaquetado de modelos con Docker
- Exportación de modelos desde TensorFlow y PyTorch
- Consideraciones sobre versionado y almacenamiento
Servicio de modelos en Kubernetes
- Resumen de servidores de inferencia
- Despliegue de TensorFlow Serving y TorchServe
- Configuración de puntos finales (endpoints) de modelos
Técnicas de optimización de inferencia
- Estrategias de lote (batching)
- Manejo de solicitudes concurrentes
- Ajuste de latencia y capacidad de procesamiento (throughput)
Autoscaling de cargas de trabajo de ML
- Escalar Horizontal de Pods (HPA)
- Escalar Vertical de Pods (VPA)
- Autoscaling basado en eventos de Kubernetes (KEDA)
Provisión de GPU y gestión de recursos
- Configuración de nodos GPU
- Resumen del plugin de dispositivos NVIDIA
- Solicitudes y límites de recursos para cargas de trabajo de ML
Estrategias de despliegue y liberación de modelos
- Despliegues azul/verde (blue/green)
- Patrones de despliegue canary
- Pruebas A/B para evaluación de modelos
Monitoreo y observabilidad de ML en producción
- Métricas para cargas de trabajo de inferencia
- Prácticas de registro (logging) y trazabilidad (tracing)
- Tableros (dashboards) y alertas
Consideraciones de seguridad y confiabilidad
- Seguridad de los puntos finales de modelos
- Políticas de red y control de acceso
- Asegurar la alta disponibilidad
Resumen y próximos pasos
Requerimientos
- Comprensión de los flujos de trabajo de aplicaciones contenerizadas
- Experiencia con modelos de aprendizaje automático basados en Python
- Familiaridad con los fundamentos de Kubernetes
Público objetivo
- Ingenieros de ML
- Ingenieros de DevOps
- Equipos de ingeniería de plataformas
Reseñas (1)
Me ha gustado la parte de Kubernetes del entrenamiento, ya que tenía algunas tareas relacionadas con pods y puertos de K8s, y ahora he conseguido una comprensión mucho más clara. ¡Gracias!
Laura Miron - Betfair
Curso - Docker and Kubernetes
Traducción Automática