Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de Amenazas para IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalada de privilegios, fuga de datos y riesgos de la cadena de suministro
- Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos
- Mapeo de activos, límites de confianza y puntos críticos de control para los agentes
Gobernanza, Política y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación)
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y auditabilidad
- Consideraciones de cumplimiento normativo y recopilación de evidencia para auditorías
Identidad y Autenticación No Humana para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida corta
- Patrones de acceso con mínimos privilegios y aprovisionamiento de credenciales just-in-time
- Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso granulares y patrones basados en capacidades para agentes
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
- Protección de fuentes de conocimiento sensible y PII contra el acceso no autorizado de agentes
Observabilidad, Auditoría y Respuesta a Incidentes
- Diseño de telemetría para el comportamiento de agentes: trazado de intención, registros de comandos y procedencia
- Integración con SIEM, umbrales de alertas y preparación forense
- Runbooks y playbooks para incidentes relacionados con agentes y su contención
Red-Teaming de Sistemas Agénticos
- Planificación de ejercicios de red-team: alcance, reglas de enfrentamiento y failover seguro
- Técnicas adversariales: inyección de prompts, mal uso de herramientas, manipulación de la cadena de pensamiento y abuso de API
- Ejecución de ataques controlados y medición de la exposición e impacto
Endurecimiento y Mitigaciones
- Controles de ingeniería: limitación de respuestas, control de capacidades y sandboxing
- Controles de política y orquestación: flujos de aprobación, human-in-the-loop y ganchos de gobernanza
- Defensas a nivel de modelo y prompt: validación de entradas, canonicalización y filtros de salida
Operativización de Implementaciones Seguras de Agentes
- Patrones de implementación: entornos de staging, canary y despliegue progresivo para agentes
- Control de cambios, tuberías de pruebas y revisiones de seguridad pre-despliegue
- Gobernanza interfuncional: playbooks de seguridad, legal, producto y operaciones
Proyecto Final: Ejercicio Red-Team / Blue-Team
- Ejecución de un ataque simulado de red-team contra un entorno de agente en sandbox
- Defensa, detección y remediación como equipo blue utilizando controles y telemetría
- Presentación de hallazgos, plan de remediación y actualizaciones de política
Resumen y Próximos Pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube
- Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM)
- Experiencia en gestión de identidad y acceso (IAM) y diseño de sistemas seguros
Audiencia
- Ingenieros de seguridad y especialistas en red-teaming
- Ingenieros de operaciones de IA y plataformas
- Responsables de cumplimiento normativo y gestores de riesgo
- Líderes de ingeniería responsables de la implementación de agentes
21 Horas
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
