Red Team de Sistemas de IA: Seguridad Ofensiva para Modelos de ML

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta capacitación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobernanza para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar riesgos de seguridad en IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobernanza para el despliegue responsable de IA.
• Alinear políticas de seguridad de IA con los objetivos organizacionales y las expectativas regulatorias.
• Fortalecer la resiliencia y la rendición de cuentas dentro de las operaciones impulsadas por IA.

Formato del curso

• Charlas facilitadas respaldadas por análisis de expertos.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados utilizando escenarios reales de gobernanza de IA.

Opciones de personalización del curso

• Para obtener capacitación adaptada a la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta formación presencial impartida por un instructor en Colombia (en línea o en sitio) está dirigida a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar sistemas de IA de manera responsable y en cumplimiento con marcos globales emergentes como la Ley de IA de la Unión Europea, el RGPD, la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos legales, éticos y regulatorios del uso de la IA en diferentes departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para la implementación de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros y desarrollados internamente.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a ciberseguridad para las agencias y departamentos gubernamentales.

Esta capacitación impartida por un instructor, en vivo (en línea o presencial), está dirigida a profesionales de TI y gestión de riesgos del sector público con experiencia limitada previa en IA, quienes deseen comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta capacitación, los participantes serán capaces de:

• Interpretar conceptos clave de riesgo relacionados con los sistemas de IA, incluidos el sesgo, la imprevisibilidad y la deriva del modelo.
• Aplicar marcos de gobernanza y auditoría específicos para la IA, como el NIST AI RMF y la norma ISO/IEC 42001.
• Reconocer las amenazas de ciberseguridad dirigidas a los modelos de IA y las tuberías de datos.
• Establecer planes de gestión de riesgos interdepartamentales y garantizar la alineación de políticas para el despliegue de IA.

Formato del curso

• Conferencia interactiva y discusión de casos de uso del sector público.
• Ejercicios sobre marcos de gobernanza de la IA y mapeo de políticas.
• Modelado de amenazas y evaluación de riesgos basado en escenarios.

Opciones de personalización del curso

• Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.

Esta capacitación presencial, impartida por un instructor en Colombia (en línea o en sitio), está dirigida a profesionales de TI de nivel principiante a intermedio que deseen comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgos y seguridad en IA.
• Identificar y mitigar los riesgos asociados a los sistemas de IA.
• Implementar las mejores prácticas de seguridad para la IA.
• Entender el cumplimiento normativo y las consideraciones éticas relacionadas con la IA.
• Desarrollar estrategias para una gobernanza y gestión efectiva de la IA.

Esta formación en vivo impartida por un instructor en Colombia (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de indicaciones, la filtración de datos y las respuestas no filtradas, al tiempo que incorporan controles de seguridad como la validación de entradas, la supervisión con intervención humana y las barreras de salida.

Al finalizar esta formación, los participantes podrán:

• Comprender las vulnerabilidades fundamentales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones con LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento en sandbox, pruebas de penetración (red teaming) y revisión con intervención humana en canales de producción robustos.

Esta capacitación impartida por un instructor en vivo en Colombia (en línea o presencial) está dirigida a profesionales intermedios de IA y ciberseguridad que deseen comprender y abordar las vulnerabilidades de seguridad específicas de los modelos y sistemas de IA, especialmente en industrias altamente reguladas como las finanzas, la gobernanza de datos y la consultoría.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los tipos de ataques adversarios dirigidos a sistemas de IA y los métodos para defenderse contra ellos.
• Implementar técnicas de endurecimiento de modelos para proteger las tuberías de aprendizaje automático.
• Garantizar la seguridad e integridad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento normativo relacionados con la seguridad de la IA.

Esta formación en vivo y dirigida por un instructor en <ubicación> (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que desean endurecer los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en instalaciones locales.

Esta formación impartida por un instructor, en vivo en Colombia (en línea o presencial), está dirigida a profesionales de seguridad informática, gestión de riesgos y cumplimiento de nivel principiante que deseen comprender los conceptos fundamentales de la seguridad de la IA, los vectores de amenaza y los marcos globales como el NIST AI RMF y la norma ISO/IEC 42001.

Al finalizar esta formación, los participantes estarán en capacidad de:

• Comprender los riesgos de seguridad únicos que introducen los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de la IA del NIST.
• Alinear el uso de la IA con normas emergentes, directrices de cumplimiento y principios éticos.

Basado en las últimas directrices del Proyecto de Seguridad de IA Generativa de OWASP, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta capacitación impartida por un instructor en vivo en Colombia (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como el aprendizaje federado, el cálculo multipartito seguro, el cifrado homomórfico y la privacidad diferencial en pipelines reales de aprendizaje automático.

Al finalizar esta capacitación, los participantes podrán:

• Comprender y comparar las técnicas clave de preservación de la privacidad en el aprendizaje automático.
• Implementar sistemas de aprendizaje federado utilizando frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos de forma segura y entrenar modelos.
• Utilizar técnicas de cifrado y cálculo seguro para proteger las entradas y salidas de los modelos.

Esta capacitación impartida por un instructor, en vivo en Colombia (en línea o presencial), está dirigida a ingenieros y profesionales de la seguridad de nivel intermedio que deseen proteger los modelos de IA desplegados en el borde frente a amenazas como manipulación, fugas de datos, entradas adversarias y ataques físicos.

Al finalizar esta capacitación, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en despliegues de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos desplegados en el borde y asegurar las tuberías de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas incrustados y restringidos.

Esta capacitación en vivo, impartida por un instructor en Colombia (en línea o en sitio), está dirigida a profesionales intermedios de aprendizaje automático y ciberseguridad que deseen comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta capacitación, los participantes podrán:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas que incluyen entrenamiento adversario, inyección de ruido y técnicas de preservación de la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.

TinyML es un enfoque para desplegar modelos de aprendizaje automático en dispositivos de bajo consumo y recursos limitados que operan en el borde de la red.

Esta capacitación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales de nivel avanzado que deseen asegurar las tuberías de TinyML e implementar técnicas de preservación de la privacidad en aplicaciones de IA en el borde.

Al finalizar este curso, los participantes estarán en capacidad de:

• Identificar riesgos de seguridad únicos en la inferencia TinyML en el dispositivo.
• Implementar mecanismos de preservación de la privacidad para despliegues de IA en el borde.
• Fortalecer modelos TinyML y sistemas embebidos frente a amenazas adversarias.
• Aplicar mejores prácticas para el manejo seguro de datos en entornos con recursos limitados.

Formato del curso

• Conferencias dinámicas respaldadas por discusiones lideradas por expertos.
• Ejercicios prácticos centrados en escenarios reales de amenazas.
• Implementación práctica utilizando herramientas de seguridad embebida y TinyML.

Opciones de personalización del curso

• Las organizaciones pueden solicitar una versión adaptada de esta capacitación para alinearse con sus necesidades específicas de seguridad y cumplimiento.

Este curso aborda la gobernanza, la gestión de identidades y las pruebas adversarias para sistemas de IA agente, centrándose en patrones de implementación seguros para empresas y técnicas prácticas de pruebas de penetración.

Esta formación en vivo y guiada por un instructor (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen diseñar, asegurar y evaluar sistemas de IA basados en agentes en entornos de producción.

Al finalizar esta formación, los participantes serán capaces de:

• Definir modelos de gobernanza y políticas para implementaciones seguras de IA agente.
• Diseñar flujos de autenticación e identidad para agentes sin intervención humana con acceso de mínimo privilegio.
• Implementar controles de acceso, registros de auditoría y observabilidad adaptados a agentes autónomos.
• Planificar y ejecutar ejercicios de pruebas de penetración para descubrir usos indebidos, vías de escalación y riesgos de exfiltración de datos.
• Mitigar amenazas comunes a los sistemas de agente a través de políticas, controles de ingeniería y monitoreo.

Formato del Curso

• Conferencias interactivas y talleres de modelado de amenazas.
• Laboratorios prácticos: provisión de identidades, aplicación de políticas y simulación de adversarios.
• Ejercicios de equipo rojo y equipo azul y evaluación final del curso.

Opciones de Personalización del Curso

• Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarla.