Temario del curso
Introducción a la contenedorización acelerada por GPU
- Comprensión del uso de GPU en flujos de trabajo de aprendizaje profundo
- Cómo Docker soporta cargas de trabajo basadas en GPU
- Consideraciones clave de rendimiento
Instalación y configuración del NVIDIA Container Toolkit
- Configuración de controladores y compatibilidad con CUDA
- Validación del acceso a GPU dentro de los contenedores
- Configuración del entorno de tiempo de ejecución
Creación de imágenes de Docker habilitadas para GPU
- Uso de imágenes base con CUDA
- Empaquetado de frameworks de IA en contenedores listos para GPU
- Gestión de dependencias para entrenamiento e inferencia
Ejecución de cargas de trabajo de IA aceleradas por GPU
- Ejecución de tareas de entrenamiento utilizando GPUs
- Gestión de cargas de trabajo con múltiples GPUs
- Monitoreo del uso de la GPU
Optimización del rendimiento y asignación de recursos
- Limitación y aislamiento de recursos de GPU
- Optimización de memoria, tamaños de lote y colocación de dispositivos
- Ajuste de rendimiento y diagnóstico
Inferencia en contenedores y servicio de modelos
- Creación de contenedores listos para inferencia
- Atención de cargas de trabajo de alto rendimiento en GPUs
- Integración de ejecutores de modelos y APIs
Escalado de cargas de trabajo GPU con Docker
- Estrategias para entrenamiento distribuido con GPU
- Escalado de microservicios de inferencia
- Coordinación de sistemas de IA con múltiples contenedores
Seguridad y confiabilidad para contenedores habilitados para GPU
- Garantizar un acceso seguro a la GPU en entornos compartidos
- Fortalecimiento de imágenes de contenedores
- Gestión de actualizaciones, versiones y compatibilidad
Resumen y siguientes pasos
Requerimientos
- Comprensión de los fundamentos del aprendizaje profundo
- Experiencia con Python y frameworks comunes de IA
- Familiaridad con conceptos básicos de contenedores
Público objetivo
- Ingenieros de aprendizaje profundo
- Equipos de investigación y desarrollo
- Especialistas en entrenamiento de modelos de IA
Testimonios (2)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática