Temario del curso
Fundamentos del despliegue híbrido de IA
- Comprensión de los modelos de despliegue híbrido, en la nube y en el borde
- Características de las cargas de trabajo de IA y restricciones de infraestructura
- Selección de la topología de despliegue adecuada
Contenedorización de cargas de trabajo de IA con Docker
- Creación de contenedores de inferencia para GPU y CPU
- Gestión de imágenes y registros seguros
- Implementación de entornos reproducibles para IA
Despliegue de servicios de IA en entornos de nube
- Ejecución de inferencias en AWS, Azure y GCP mediante Docker
- Aprovisionamiento de recursos computacionales en la nube para el servicio de modelos
- Protección de puntos de acceso de IA basados en la nube
Técnicas de despliegue en el borde y locales
- Ejecución de IA en dispositivos IoT, gateways y microservidores
- Entornos de ejecución ligeros para entornos de borde
- Gestión de conectividad intermitente y persistencia local
Redes híbridas y conectividad segura
- Túneles seguros entre el borde y la nube
- Certificados, secretos y acceso basado en tokens
- Ajuste de rendimiento para inferencias de baja latencia
Orquestación de despliegues distribuidos de IA
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas
- Detección de servicios y programación de cargas de trabajo
- Automatización de estrategias de despliegue multiubicación
Monitoreo y observabilidad en todos los entornos
- Seguimiento del rendimiento de inferencias en múltiples ubicaciones
- Registro centralizado para sistemas híbridos de IA
- Detección de fallos y recuperación automatizada
Escalabilidad y optimización de sistemas híbridos de IA
- Escalado de clústeres de borde y nodos en la nube
- Optimización del uso del ancho de banda y almacenamiento en caché
- Equilibrio de cargas computacionales entre la nube y el borde
Resumen y siguientes pasos
Requerimientos
- Comprensión de los conceptos de contenedorización
- Experiencia en operaciones de línea de comandos de Linux
- Familiaridad con los flujos de trabajo de despliegue de modelos de IA
Público objetivo
- Arquitectos de infraestructura
- Ingenieros de confiabilidad de sitio (SRE)
- Desarrolladores de tecnologías de borde e IoT
Testimonios (2)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática