Temario del curso
Fundamentos del despliegue híbrido de IA
- Comprensión de los modelos de despliegue híbridos, en la nube y en edge.
- Características de las cargas de trabajo de IA y restricciones de infraestructura.
- Selección de la topología de despliegue adecuada.
Contenedorización de cargas de trabajo de IA con Docker
- Construcción de contenedores de inferencia para GPU y CPU.
- Gestión de imágenes seguras y registros.
- Implementación de entornos reproducibles para IA.
Despliegue de servicios de IA en entornos de nube
- Ejecución de inferencia en AWS, Azure y GCP mediante Docker.
- Provisionamiento de cómputo en la nube para el servicio de modelos.
- Seguridad de los puntos finales (endpoints) de IA basados en la nube.
Técnicas de despliegue Edge y On-Prem
- Ejecución de IA en dispositivos IoT, pasarelas y microservidores.
- Runtime ligeros para entornos edge.
- Gestión de la conectividad intermitente y la persistencia local.
Redes híbridas y conectividad segura
- Túneles seguros entre edge y nube.
- Certificados, secretos y acceso basado en tokens.
- Ajuste de rendimiento para inferencia de baja latencia.
Orquestación de despliegues de IA distribuidos
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas.
- Detección de servicios y programación de cargas de trabajo.
- Automatización de estrategias de despliegue multiubicación.
Monitoreo y observabilidad entre entornos
- Seguimiento del rendimiento de la inferencia en diferentes ubicaciones.
- Registro de eventos (logging) centralizado para sistemas de IA híbridos.
- Detección de fallas y recuperación automatizada.
Escala y optimización de sistemas de IA híbridos
- Escalado de clústeres edge y nodos de nube.
- Optimización del uso de ancho de banda y caché.
- Equilibrio de cargas de cómputo entre la nube y el edge.
Resumen y próximos pasos
Requerimientos
- Comprensión de los conceptos de contenedorización.
- Experiencia con operaciones de línea de comandos en Linux.
- Familiaridad con los flujos de trabajo de despliegue de modelos de IA.
Audiencia
- Arquitectos de infraestructura.
- Ingenieros de confiabilidad de sitios (SRE).
- Desarrolladores de sistemas Edge y IoT.
Reseñas (2)
Como mencioné anteriormente, para una persona como yo (sin experiencia), esto supuso una puerta de entrada para comprender las funciones y características de estos programas, herramientas y demás.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Traducción Automática
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática
