Escalado de Ollama y Optimización de la Infraestructura
Ollama es una plataforma diseñada para ejecutar modelos de lenguaje y multimodales a gran escala de manera local y escalable.
Este entrenamiento en vivo dirigido por un instructor (tanto en línea como presencial) está orientado a ingenieros de nivel intermedio a avanzado que deseen ampliar las implementaciones de Ollama para entornos con múltiples usuarios, alta capacidad de procesamiento y eficiencia de costos.
Al finalizar este entrenamiento, los participantes serán capaces de:
- Configurar Ollama para manejar cargas de trabajo multiusuario y distribuidas.
- Optimizar la asignación de recursos GPU y CPU.
- Implementar estrategias de escalado automático, agrupamiento (batching) y reducción de latencia.
- Monitorear y optimizar la infraestructura para mejorar el rendimiento y la eficiencia de costos.
Formato del Curso
- Sesiones interactivas y debates.
- Laboratorios prácticos de implementación y escalado.
- Ejercicios de optimización en entornos reales.
Opciones de Personalización del Curso
- Para solicitar un entrenamiento personalizado para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Introducción al Escalamiento de Ollama
- Arquitectura de Ollama y consideraciones sobre escalabilidad
- Puntos débiles comunes en las implementaciones multiusuario
- Prácticas recomendadas para la preparación de infraestructuras
Asignación de Recursos y Optimización de GPU
- Estrategias eficientes para el uso de CPU/GPU
- Consideraciones sobre memoria y ancho de banda
- Límites de recursos en nivel de contenedor
Implementación con Contenedores y Kubernetes
- Contenizar Ollama con Docker
- Ejecución de Ollama en clústeres de Kubernetes
- Balancing de carga y descubrimiento de servicios
Autoscaling y Agrupación
- Diseño de políticas de autoscaling para Ollama
- Técnicas de inferencia por lotes para la optimización del rendimiento
- Cambios entre latencia y rendimiento
Optimización de Latencia
- Perfilado del desempeño de inferencia
- Estrategias de caché y calentamiento del modelo
- Reducción del sobrecoste de E/S y comunicación
Supervisión y Observabilidad
- Integración de Prometheus para métricas
- Creamos paneles con Grafana
- Alertas y respuesta a incidentes en la infraestructura de Ollama
Gestión de Costos y Estrategias de Escalado
- Asignación de GPU consciente del costo
- Consideraciones entre implementación en la nube vs. local
- Estrategias para una escalabilidad sostenible
Resumen y Próximos Pasos
Requerimientos
- Experiencia en administración de sistemas Linux
- Comprensión de la containerización y la orquestación
- Familiaridad con el despliegue de modelos de aprendizaje automático
Público objetivo
- Ingenieros DevOps
- Equipos de infraestructura ML
- Ingenieros de confiabilidad del sitio
Los cursos públicos requieren más de 5 participantes.
Escalado de Ollama y Optimización de la Infraestructura - Reserva
Escalado de Ollama y Optimización de la Infraestructura - Consulta
Escalado de Ollama y Optimización de la Infraestructura - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y Evaluación Avanzada de Modelos Ollama
35 HorasAdvanced Ollama Model Debugging & Evaluation es un curso detallado dedicado al diagnóstico, la prueba y la evaluación del comportamiento de los modelos durante la ejecución de implementaciones locales o privadas de Ollama.
Esta formación en vivo dirigida por instructores (tanto en línea como presencial) está diseñada para ingenieros de IA avanzados, profesionales de ML Ops y practicantes de QA que buscan garantizar la fiabilidad, precisión y preparación operativa de los modelos basados en Ollama en entornos de producción.
Al final de esta formación, los participantes serán capaces de:
- Ejecutar un proceso sistemático de depuración de modelos alojados en Ollama y reproducir de manera confiable los modos de fallo.
- Diseñar y ejecutar pipelines de evaluación robusta, utilizando métricas cuantitativas y cualitativas.
- Implementar la observabilidad (registros, trazas, métricas) para monitorear la salud del modelo y detectar cualquier desviación.
- Automatizar pruebas, validaciones y controles de regresión integrados en los pipelines CI/CD.
Formato del Curso
- Conferencia interactiva y discusión.
- Laboratorios prácticos y ejercicios de depuración utilizando implementaciones de Ollama.
- Casos de estudio, sesiones grupales de solución de problemas y talleres de automatización.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarla.
Construyendo Flujos de Trabajo Privados de IA con Ollama
14 HorasEste entrenamiento en vivo dirigido por un instructor en Colombia (en línea o presencial) está destinado a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar este entrenamiento, los participantes serán capaces de:
- Implementar y configurar Ollama para el procesamiento privado de IA.
- Integrar modelos de IA en flujos de trabajo seguros de la empresa.
- Optimizar el rendimiento de IA manteniendo la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA en premises.
- Asegurar el cumplimiento de las políticas de seguridad y gobernanza de la empresa.
Implementación y Optimización de Modelos de Lenguaje Grande (LLMs) con Ollama
14 HorasEste entrenamiento dirigido por un instructor, en vivo en Colombia (en línea o presencial), está dirigido a profesionales de nivel intermedio que deseen implementar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar este entrenamiento, los participantes podrán:
- Configurar e implementar LLMs utilizando Ollama.
- Optimizar modelos de IA para mejorar el rendimiento y la eficiencia.
- Aprovechar la aceleración de GPU para mejorar la velocidad de inferencia.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
Ajuste fino y personalización de modelos de IA en Ollama
14 HorasEste entrenamiento en vivo dirigido por un instructor en Colombia (en línea o presencial) está destinado a profesionales de nivel avanzado que deseen ajustar y personalizar modelos de IA en Ollama para mejorar el rendimiento y las aplicaciones específicas del dominio.
Al final de este entrenamiento, los participantes serán capaces de:
- Configurar un entorno eficiente para ajustar modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste supervisado y el aprendizaje por refuerzo.
- Optimizar modelos de IA para mejorar el rendimiento, la precisión y la eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras del modelo y garantizar su robustez.
Aplicaciones Multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar modelos de lenguaje grandes y multimodales en entornos locales.
Esta formación dirigida por un instructor (en línea o presencial) está diseñada para ingenieros ML avanzados, investigadores de IA y desarrolladores de productos que desean construir y desplegar aplicaciones multimodales utilizando Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para desarrollar aplicaciones del mundo real.
- Desarrollar sistemas de comprensión de documentos y respuestas a preguntas basadas en imágenes (QA visual).
- Crear agentes multimodales capaces de razonar entre diferentes modalidades.
Formato del Curso
- Sesiones interactivas con conferencias y discusiones.
- Ejercicios prácticos utilizando conjuntos de datos multimodales reales.
- Implementación en un entorno de laboratorio vivo de tuberías multimodales con Ollama.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
Empezando con Ollama: Ejecución de Modelos de IA Locales
7 HorasEste entrenamiento dirigido por un instructor en vivo en Colombia (en línea o en las instalaciones del cliente) está destinado a profesionales de nivel principiante que deseen instalar, configurar y usar Ollama para ejecutar modelos de IA en sus máquinas locales.
Al final de este entrenamiento, los participantes serán capaces de:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLMs usando Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación local de IA en diversas industrias.
Ollama y Privacidad de Datos: Patrones de Implementación Segura
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje y multimodales grandes en entornos locales, respaldando estrategias de implementación seguras.
Esta capacitación dirigida por un instructor (en línea o presencial) está orientada a profesionales de nivel intermedio que buscan implementar Ollama con medidas robustas de privacidad de datos y cumplimiento regulatorio.
Al finalizar esta formación, los participantes podrán:
- Implementar Ollama de forma segura en entornos containerizados y locales.
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas de registro, monitoreo y auditoría seguras.
- Enfocar el control del acceso a los datos en función de los requisitos de cumplimiento.
Formato del Curso
- Sesiones interactivas de conferencias y discusiones.
- Laboratorios prácticos con patrones de implementación segura.
- Casos de estudio y ejercicios prácticos centrados en el cumplimiento.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera diseñada para ejecutar modelos de lenguaje grandes en entornos locales.
Este curso de formación, dirigido por un instructor y disponible tanto en línea como en el sitio, está orientado a profesionales financieros y personal de TI intermedios que deseen implementar, personalizar y operacionalizar soluciones AI basadas en Ollama dentro del sector financiero.
Al finalizar este curso, los participantes adquirirán las habilidades necesarias para:
- Implementar y configurar Ollama de manera segura para su uso en operaciones financieras.
- Integrar modelos de lenguaje locales (LLMs) en flujos de trabajo analíticos y de informes.
- Ajustar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y debate.
- Ejercicios prácticos con datos financieros.
- Implementación en vivo de escenarios enfocados en finanzas.
Opciones de Personalización del Curso
- Para solicitar un curso personalizado, por favor contáctenos para realizar los arreglos necesarios.
Aplicaciones de Ollama en la Salud
14 HorasOllama es una plataforma ligera diseñada para ejecutar modelos de lenguaje grandes en entornos locales.
Este entrenamiento dirigido por un instructor, que puede ser en línea o presencial, está orientado a profesionales de la salud y equipos de TI intermedios que desean implementar, personalizar y operacionalizar soluciones AI basadas en Ollama dentro de los entornos clínicos y administrativos.
Al finalizar este entrenamiento, los participantes estarán capacitados para:
- Instalar y configurar Ollama para su uso seguro en entornos de salud.
- Integrar modelos de lenguaje locales (LLMs) en los flujos de trabajo clínicos y procesos administrativos.
- Personalizar los modelos para adaptarlos a la terminología específica del sector de la salud y las tareas correspondientes.
- Aplicar las mejores prácticas en privacidad, seguridad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno de simulación de salud aislado.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para hacer los arreglos necesarios.
Ollama para IA Responsable y Gobernanza
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje y multimodales de gran escala de manera local, apoyando prácticas de gobernanza y responsabilidad en inteligencia artificial (IA).
Esta formación dirigida por instructores, tanto en línea como presencial, está diseñada para profesionales de nivel intermedio a avanzado que buscan implementar equidad, transparencia y responsabilidad en aplicaciones basadas en Ollama.
Al concluir esta capacitación, los participantes podrán:
- Aplicar principios de IA responsable en las implementaciones de Ollama.
- Implementar estrategias efectivas para filtrar contenido y mitigar sesgos.
- Diseñar flujos de trabajo de gobernanza que aseguren la alineación de la IA y su auditoría.
- Establecer marcos robustos de monitoreo y reporte para el cumplimiento normativo.
Formato del Curso
- Sesiones interactivas y discusiones grupales.
- Laboratorios prácticos enfocados en el diseño de flujos de trabajo de gobernanza.
- Análisis de casos de estudio y ejercicios orientados al cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, no dude en contactarnos para coordinar.
Maestría en Ingeniería de Prompt con Ollama
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje y multimodales de gran tamaño en el entorno local.
Esta capacitación en vivo dirigida por un instructor (en línea o presencial) está diseñada para profesionales intermedios que desean dominar técnicas de ingeniería de prompts para optimizar las salidas de Ollama.
Al final de esta formación, los participantes podrán:
- Diseñar prompts efectivos para una variedad de casos de uso.
- Aplicar técnicas como el priming y la estructuración en cadena de pensamiento.
- Implementar plantillas de prompts y estrategias de gestión de contexto.
- Construir pipelines de prompting multi-etapas para flujos de trabajo complejos.
Formato del Curso
- Conferencia interactiva y discusión.
- Ejercicios prácticos en el diseño de prompts.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinar.