Temario del curso
Fundamentos de la Gobernanza de la Seguridad de la IA
- Principios básicos de la gobernanza de la IA
- Marcos de seguridad empresarial para la IA
- Roles y responsabilidades de las partes interesadas
Metodologías de Evaluación de Riesgos de la IA
- Identificación y clasificación de riesgos de seguridad de la IA
- Modelado de amenazas para sistemas habilitados por IA
- Evaluación de impacto y priorización
Diseño de Sistemas de IA Seguros
- Diseño para confidencialidad, integridad y disponibilidad
- Implementación de controles de seguridad en pipelines de IA
- Consideraciones sobre la gestión del ciclo de vida del modelo
Protección de Datos y Privacidad en la IA
- Gobernanza de datos para el aprendizaje automático
- Gestión de datos sensibles y regulados
- Tecnologías mejoradoras de la privacidad
Monitorización y Seguridad de las Operaciones de IA
- Evaluación continua del comportamiento de la IA
- Detección de deriva, anomalías y mal uso
- Inteligencia de amenazas operativa para sistemas de IA
Alineación Regulatoria y de Cumplimiento
- Estándares globales que impactan la seguridad de la IA
- Documentación y preparación para auditorías
- Alineación de la gobernanza con las obligaciones legales
Respuesta ante Incidentes en Sistemas de IA
- Vector de ataques y indicadores específicos de la IA
- Flujos de trabajo de respuesta para modelos comprometidos
- Revisión posterior al incidente y remediación
Gestión Estratégica de la Seguridad de la IA
- Construcción de capacidades de seguridad de IA a largo plazo
- Integración de los riesgos de la IA en la estrategia empresarial
- Evaluaciones de madurez y mejora continua
Resumen y próximos pasos
Requerimientos
- Comprensión de los principios de riesgos de ciberseguridad
- Experiencia con sistemas de IA o basados en datos
- Conocimiento del gobierno de la seguridad empresarial
Público objetivo
- Gerentes de seguridad que supervisan iniciativas de IA
- Profesionales de gobierno y riesgos
- Líderes técnicos responsables de la adopción segura de la IA
Reseñas (3)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática