Contacta con nosotros

Temario del curso

Día 1
Anatomía de un Agente de IA Moderno

Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y acción

Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos

Componentes clave: percepción, planificación, memoria, uso de herramientas y acción

Compensaciones entre el diseño de un agente único y sistemas multi-agente

Frameworks de Agentes y la Pila Tecnológica Moderna

LangChain, LlamaIndex, AutoGen, CrewAI y sus compensaciones

Comparación con frameworks clásicos como JADE y SPADE

Cómo elegir un framework basado en los requisitos de producción

Llamada a herramientas, llamada a funciones y salidas estructuradas

Práctica: construcción de la base para un agente único en Python con llamadas a herramientas

Arquitecturas de Sistemas Multi-Agente

Diseños centralizados, descentralizados, híbridos y en capas para sistemas multi-agente (MAS)

FIPA ACL, paso de mensajes y equivalentes modernos

Patrones de coordinación: planificación, negociación y sincronización

Comportamiento emergente y auto-organización en poblaciones de agentes

Toma de Decisiones y Aprendizaje en Agentes

Teoría de juegos para interacciones cooperativas y competitivas entre agentes

Aprendizaje por refuerzo en entornos multi-agente

Aprendizaje transferible y compartición de conocimiento entre agentes

Resolución de conflictos y confianza entre agentes coordinados

Día 2
Fundamentos Multimodales para Agentes

La IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video

Principales modelos multimodales: GPT-4 Vision, Gemini, Claude, Whisper

Técnicas de fusión para combinar modalidades dentro del ciclo de razonamiento del agente

Compensaciones en latencia, costo y precisión en pipelines multimodales

Construcción de la Capa de Percepción

Procesamiento de imágenes para agentes: clasificación, subtítulos y detección de objetos

Reconocimiento de voz con Whisper ASR y transcripción en streaming

Síntesis de texto a voz e interacción con voz natural

Conexión de las salidas de percepción al razonamiento basado en LLMs y selección de herramientas

Práctica - Construcción de un Agente Multimodal en Python

Definición de la tarea, ventana de contexto e inventario de herramientas del agente

Conexión integral de las APIs de GPT-4 Vision y Whisper

Implementación de gestión de memoria, estado y conversación

Agregado de llamadas a herramientas que producen efectos secundarios en el mundo real de forma segura

Práctica - Orquestación de un Sistema Multi-Agente

Composición de agentes especializados con AutoGen o CrewAI

Definición de roles, responsabilidades y protocolos de comunicación entre agentes

Asignación de recursos y coordinación en un entorno simulado

Registro del razonamiento del agente, llamadas a herramientas y decisiones para inspección y auditoría

Día 3
Superficie de Amenaza de los Agentes de IA en Producción

Lo que hace que la IA agentic sea única mente vulnerable comparada con el software tradicional

Superficie de ataque: datos, modelo, prompt, herramienta, salida e interfaz

Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas

Comparación de prácticas de ciberseguridad de IA con la ciberseguridad tradicional

Práctica de Ataques Adversarios

Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool

Escenarios de ataque de caja blanca versus caja negra

Ataques de inversión de modelos e inferencia de membresía

Envenenamiento de datos e inyección de puertas traseras durante el entrenamiento

Inyección de prompts, evasión de restricciones (jailbreaking) y mal uso de herramientas en agentes basados en LLMs

Técnicas Defensivas y Fortalecimiento del Modelo

Estrategias de entrenamiento adversario y aumento de datos

Destilación defensiva y otras técnicas de robustez

Preprocesamiento de entrada, enmascaramiento de gradientes y regularización

Privacidad diferencial, inyección de ruido y presupuestos de privacidad

Aprendizaje federado y agregación segura para entrenamiento distribuido

Práctica con la Toolbox de Robustez Adversaria

Simulación de ataques contra el agente multimodal construido el Día 2

Medición de la robustez bajo perturbación y cuantificación del deterioro

Aplicación iterativa de defensas y reevaluación de las tasas de éxito de los ataques

Prueba de estrés en las vías de llamadas a herramientas y vectores de inyección de prompts

Día 4
Frameworks de Gestión de Riesgos para IA

Marco de Gestión de Riesgos de IA de NIST: gobernar, mapear, medir, gestionar

ISO/IEC 42001 y estándares emergentes específicos para IA

Mapeo de riesgos de IA a marcos GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes

Requisitos de rendición de cuentas, auditabilidad y documentación de la IA

Cumplimiento Normativo para Sistemas Agentic

Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo

Implicaciones del GDPR y CCPA para las tuberías de datos de los agentes

Orden Ejecutiva de EE.UU. sobre una IA Segura, Confiable y Fiel

Orientaciones sectoriales específicas para finanzas, salud y servicios públicos

Riesgo de terceros y uso de herramientas de IA por parte de proveedores

Ética, Sesgo y Explicabilidad

Detección y mitigación de sesgos en la percepción y el razonamiento del agente

Explicabilidad y transparencia como propiedades relevantes para la seguridad

Equitidad, daños derivados y despliegue responsable

Diseño de comportamientos de agentes inclusivos y auditables

Despliegue en Producción, Monitoreo y Respuesta ante Incidentes

Patrones de despliegue seguro para sistemas de agente único y multi-agente

Monitoreo continuo de derivas (drift), anomalías y abusos

Registros, rastros de auditoría y preparación forense para las acciones de los agentes

Manual de respuesta ante incidentes de seguridad de IA y recuperación

Casos de estudio de brechas de IA en el mundo real y lecciones aprendidas

Capstone y Síntesis

Revisión del sistema multi-agente multimodal construido a lo largo del curso

Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza, despliegue

Autoevaluación del sistema contra las funciones del marco NIST AI RMF

Perspectiva hacia adelante sobre tendencias emergentes en IA agentic y seguridad de la IA

Resumen y Próximos Pasos

Requerimientos

Audiencia Objetivo

Ingenieros de IA y arquitectos que construyen sistemas agentic para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que incorporan capacidades multimodales y multi-agente en plataformas empresariales.

 28 Horas

Número de participantes


Precio por participante

Reseñas (3)

Próximos cursos

Categorías Relacionadas