Temario del curso
Día 1
Anatomía de un Agente de IA Moderno
Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y acción
Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos
Componentes clave: percepción, planificación, memoria, uso de herramientas y acción
Compensaciones entre el diseño de un agente único y sistemas multi-agente
Frameworks de Agentes y la Pila Tecnológica Moderna
LangChain, LlamaIndex, AutoGen, CrewAI y sus compensaciones
Comparación con frameworks clásicos como JADE y SPADE
Cómo elegir un framework basado en los requisitos de producción
Llamada a herramientas, llamada a funciones y salidas estructuradas
Práctica: construcción de la base para un agente único en Python con llamadas a herramientas
Arquitecturas de Sistemas Multi-Agente
Diseños centralizados, descentralizados, híbridos y en capas para sistemas multi-agente (MAS)
FIPA ACL, paso de mensajes y equivalentes modernos
Patrones de coordinación: planificación, negociación y sincronización
Comportamiento emergente y auto-organización en poblaciones de agentes
Toma de Decisiones y Aprendizaje en Agentes
Teoría de juegos para interacciones cooperativas y competitivas entre agentes
Aprendizaje por refuerzo en entornos multi-agente
Aprendizaje transferible y compartición de conocimiento entre agentes
Resolución de conflictos y confianza entre agentes coordinados
Día 2
Fundamentos Multimodales para Agentes
La IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video
Principales modelos multimodales: GPT-4 Vision, Gemini, Claude, Whisper
Técnicas de fusión para combinar modalidades dentro del ciclo de razonamiento del agente
Compensaciones en latencia, costo y precisión en pipelines multimodales
Construcción de la Capa de Percepción
Procesamiento de imágenes para agentes: clasificación, subtítulos y detección de objetos
Reconocimiento de voz con Whisper ASR y transcripción en streaming
Síntesis de texto a voz e interacción con voz natural
Conexión de las salidas de percepción al razonamiento basado en LLMs y selección de herramientas
Práctica - Construcción de un Agente Multimodal en Python
Definición de la tarea, ventana de contexto e inventario de herramientas del agente
Conexión integral de las APIs de GPT-4 Vision y Whisper
Implementación de gestión de memoria, estado y conversación
Agregado de llamadas a herramientas que producen efectos secundarios en el mundo real de forma segura
Práctica - Orquestación de un Sistema Multi-Agente
Composición de agentes especializados con AutoGen o CrewAI
Definición de roles, responsabilidades y protocolos de comunicación entre agentes
Asignación de recursos y coordinación en un entorno simulado
Registro del razonamiento del agente, llamadas a herramientas y decisiones para inspección y auditoría
Día 3
Superficie de Amenaza de los Agentes de IA en Producción
Lo que hace que la IA agentic sea única mente vulnerable comparada con el software tradicional
Superficie de ataque: datos, modelo, prompt, herramienta, salida e interfaz
Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas
Comparación de prácticas de ciberseguridad de IA con la ciberseguridad tradicional
Práctica de Ataques Adversarios
Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool
Escenarios de ataque de caja blanca versus caja negra
Ataques de inversión de modelos e inferencia de membresía
Envenenamiento de datos e inyección de puertas traseras durante el entrenamiento
Inyección de prompts, evasión de restricciones (jailbreaking) y mal uso de herramientas en agentes basados en LLMs
Técnicas Defensivas y Fortalecimiento del Modelo
Estrategias de entrenamiento adversario y aumento de datos
Destilación defensiva y otras técnicas de robustez
Preprocesamiento de entrada, enmascaramiento de gradientes y regularización
Privacidad diferencial, inyección de ruido y presupuestos de privacidad
Aprendizaje federado y agregación segura para entrenamiento distribuido
Práctica con la Toolbox de Robustez Adversaria
Simulación de ataques contra el agente multimodal construido el Día 2
Medición de la robustez bajo perturbación y cuantificación del deterioro
Aplicación iterativa de defensas y reevaluación de las tasas de éxito de los ataques
Prueba de estrés en las vías de llamadas a herramientas y vectores de inyección de prompts
Día 4
Frameworks de Gestión de Riesgos para IA
Marco de Gestión de Riesgos de IA de NIST: gobernar, mapear, medir, gestionar
ISO/IEC 42001 y estándares emergentes específicos para IA
Mapeo de riesgos de IA a marcos GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes
Requisitos de rendición de cuentas, auditabilidad y documentación de la IA
Cumplimiento Normativo para Sistemas Agentic
Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo
Implicaciones del GDPR y CCPA para las tuberías de datos de los agentes
Orden Ejecutiva de EE.UU. sobre una IA Segura, Confiable y Fiel
Orientaciones sectoriales específicas para finanzas, salud y servicios públicos
Riesgo de terceros y uso de herramientas de IA por parte de proveedores
Ética, Sesgo y Explicabilidad
Detección y mitigación de sesgos en la percepción y el razonamiento del agente
Explicabilidad y transparencia como propiedades relevantes para la seguridad
Equitidad, daños derivados y despliegue responsable
Diseño de comportamientos de agentes inclusivos y auditables
Despliegue en Producción, Monitoreo y Respuesta ante Incidentes
Patrones de despliegue seguro para sistemas de agente único y multi-agente
Monitoreo continuo de derivas (drift), anomalías y abusos
Registros, rastros de auditoría y preparación forense para las acciones de los agentes
Manual de respuesta ante incidentes de seguridad de IA y recuperación
Casos de estudio de brechas de IA en el mundo real y lecciones aprendidas
Capstone y Síntesis
Revisión del sistema multi-agente multimodal construido a lo largo del curso
Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza, despliegue
Autoevaluación del sistema contra las funciones del marco NIST AI RMF
Perspectiva hacia adelante sobre tendencias emergentes en IA agentic y seguridad de la IA
Resumen y Próximos Pasos
Requerimientos
Audiencia Objetivo
Ingenieros de IA y arquitectos que construyen sistemas agentic para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que incorporan capacidades multimodales y multi-agente en plataformas empresariales.
Reseñas (3)
El instructor es paciente y muy útil. Conoce bien el tema.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curso - Agentic AI for Business Automation: Use Cases & Integration
Traducción Automática
Buena mezcla de conocimiento y práctica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Agentic AI for Enterprise Applications
Traducción Automática
La mezcla de teoría y práctica, así como de perspectivas de alto y bajo nivel
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Autonomous Decision-Making with Agentic AI
Traducción Automática