SECUIA – Formation Sécurité des systèmes d’intelligence artificielle
Prochaines Dates de la Formation
- Du 07/07/2025 au 09/07/2025
- Du 03/09/2025 au 05/09/2025
21 heures - Horaires : de 9h30 à 12h et de 13h30 à 18h00.
Grâce aux avancées techniques de la dernière décennie, le déploiement fulgurant de l’IA désormais omniprésente pose de nouveaux défis de cybersécurité, avec de nombreux risques techniques peu connus et mal maîtrisés par les entreprises.
Cette formation à destination de publics techniques (développeurs, pentesters, data scientists, …) apportera toutes les compétences nécessaires pour exploiter et remédier aux vulnérabilités les plus courantes liées aux systèmes d’intelligence artificielle, avec une attention particulière portée aux LLM et autres modèles génératifs.
Bon à savoir sur cette formation
-
Objectifs
- Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes
- Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant
- Préparer et réaliser un audit de sécurité approfondi d'un système d'IA
- Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la sécurité de ces systèmes
-
Pré-requis
- Expérience en programmation, idéalement liée à l'IA ou la science des données
- Notions de base en sécurité applicative, la participation à la formation PENTEST1 ou PENTESTWEB est un plus
-
Méthode pédagogique
- Cours magistral illustré par des exemples concrets et des démonstrations
- Exercices de mise en pratique sur des environnements réalistes, challenges type Capture The Flag
-
Public visé
- Développeurs, responsables techniques, architectes travaillant sur des projets d'IA
- Consultants en cybersécurité souhaitant renforcer leur éventail de compétences
-
Certification
- Cette formation prépare à l’examen de certification HS2 SECUIA. A l'issue de cette formation, le stagiaire passe l’examen d’une durée de 2h00 en français. L’examen est constitué d’une partie QCM et d’une partie évaluation pratique type CTF.
-
Matériel
- Support de cours au format papier en français en mode présentiel et au format numérique en mode distanciel
- Certificat de réalisation de la formation
-
Formateurs
- Clément Hammel
- Mathis Hammel
Objectifs
Pré-requis
Méthode pédagogique
Public visé
Certification
Matériel
Formateurs
- Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes
- Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant
- Préparer et réaliser un audit de sécurité approfondi d'un système d'IA
- Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la sécurité de ces systèmes
- Expérience en programmation, idéalement liée à l'IA ou la science des données
- Notions de base en sécurité applicative, la participation à la formation PENTEST1 ou PENTESTWEB est un plus
- Cours magistral illustré par des exemples concrets et des démonstrations
- Exercices de mise en pratique sur des environnements réalistes, challenges type Capture The Flag
- Développeurs, responsables techniques, architectes travaillant sur des projets d'IA
- Consultants en cybersécurité souhaitant renforcer leur éventail de compétences
- Cette formation prépare à l’examen de certification HS2 SECUIA. A l'issue de cette formation, le stagiaire passe l’examen d’une durée de 2h00 en français. L’examen est constitué d’une partie QCM et d’une partie évaluation pratique type CTF.
- Support de cours au format papier en français en mode présentiel et au format numérique en mode distanciel
- Certificat de réalisation de la formation
Clément Hammel
Mathis Hammel
Programme du cours
Jour 1 – Vulnérabilités du modèle
- Concepts fondamentaux du deep learning : entraînement et fine-tuning, architectures, jeux de données, embeddings, …
- Attaques antagonistes
- Injection de prompt
- Empoisonnement des données d’entraînement
- Attaques sur l’apprentissage fédéré
- Inversion de modèle
Jour 2 – Vulnérabilités applicatives
- Injection via les sorties du modèle
- Fuite de données sensibles
- Attaques sur la chaîne d’approvisionnement
- Élévation de privilèges via le modèle
- Attaques sur RAG : fuite de documents, attaques par canal auxiliaire
Jour 3 – Mesures défensives et bonnes pratiques + évaluation
- Méthodes de préparation et de restitution d’un audit de sécurité IA
- Sécurisation des systèmes d’IA, de la conception jusqu’à la mise en production
- Gestes à adopter en cas d’attaque, considérations juridiques et protection des données
- Correction des travaux pratiques des jours 1 et 2
- Examen de compétences
