Temario del curso
Preparación de modelos de aprendizaje automático para el despliegue
- Empaquetado de modelos con Docker
- Exportación de modelos desde TensorFlow y PyTorch
- Consideraciones sobre versionado y almacenamiento
Servicio de modelos en Kubernetes
- Resumen de servidores de inferencia
- Despliegue de TensorFlow Serving y TorchServe
- Configuración de puntos finales (endpoints) de modelos
Técnicas de optimización de inferencia
- Estrategias de lote (batching)
- Manejo de solicitudes concurrentes
- Ajuste de latencia y capacidad de procesamiento (throughput)
Autoscaling de cargas de trabajo de ML
- Escalar Horizontal de Pods (HPA)
- Escalar Vertical de Pods (VPA)
- Autoscaling basado en eventos de Kubernetes (KEDA)
Provisión de GPU y gestión de recursos
- Configuración de nodos GPU
- Resumen del plugin de dispositivos NVIDIA
- Solicitudes y límites de recursos para cargas de trabajo de ML
Estrategias de despliegue y liberación de modelos
- Despliegues azul/verde (blue/green)
- Patrones de despliegue canary
- Pruebas A/B para evaluación de modelos
Monitoreo y observabilidad de ML en producción
- Métricas para cargas de trabajo de inferencia
- Prácticas de registro (logging) y trazabilidad (tracing)
- Tableros (dashboards) y alertas
Consideraciones de seguridad y confiabilidad
- Seguridad de los puntos finales de modelos
- Políticas de red y control de acceso
- Asegurar la alta disponibilidad
Resumen y próximos pasos
Requerimientos
- Comprensión de los flujos de trabajo de aplicaciones contenerizadas
- Experiencia con modelos de aprendizaje automático basados en Python
- Familiaridad con los fundamentos de Kubernetes
Público objetivo
- Ingenieros de ML
- Ingenieros de DevOps
- Equipos de ingeniería de plataformas
Reseñas (4)
comprensión básica de contenedores/kubernetes y su interacción características de la plataforma Openshift
Eric Scholze - NOW IT GmbH
Curso - Introduction to Containers, Kubernetes & OpenShift
Traducción Automática
About the microservices and how to maintenance kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Curso - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática
