Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs
Explorez les mécanismes des IA modernes et apprenez à identifier et exploiter les vulnérabilités des LLM à travers un challenge pratique et ludique !
Vue d'ensemble
Aucun prérequis pour la partie théorique (présentation des concepts et des risques).
Pour la phase challenge, une connaissance de base en Python ou en développement web est recommandée pour au moins un membre du binôme.
Objectifs pédagogiques
Programme détaillé
Introduction à l’intelligence artificielle aujourd’hui (30 min)
Notions fondamentales : IA vs Machine Learning, réseaux de neurones, entraînement de modèles
Fonctionnement des applications IA modernes : fine-tuning, déploiement, intégration
Focus sur le RAG (Retrieval-Augmented Generation) : principe et cas d’usage
Nouveaux risques de sécurité liés à l’IA (1h30)
Pourquoi l’IA introduit-elle de nouvelles surfaces d’attaque dans les systèmes d’information ?
Attaques antagonistes : comprendre ce nouveau type de menace ciblant les réseaux neuronaux
Revue des 10 risques majeurs du Top 10 OWASP LLM 2025 :
LLM01 – Injection de prompts
LLM02 – Fuite d’informations sensibles
LLM03 – Vulnérabilités de la chaîne d’approvisionnement
LLM04 – Empoisonnement des données et modèles
LLM05 – Mauvaise gestion des sorties
LLM06 – Capacité d’action excessive
LLM07 – Fuite du prompt système
LLM08 – Faiblesses des vecteurs et embeddings
LLM09 – Dépendance excessive au modèle
LLM10 – Consommation illimitée de ressources
Chaque point est illustré par des scénarios concrets, des exemples d’attaque et des leviers de mitigation.
Challenge pratique (4 à 6h)
Une plateforme interactive avec une douzaine de mini-challenges à réaliser en binôme, accompagnés par le formateur
Chaque défi illustre une ou plusieurs des failles étudiées dans la partie précédente
Classement en temps réel, progression par niveaux de difficulté, accès prolongé après la formation (en option gratuite)
Exemples de challenges :
Prompt injection : forcer le LLM à révéler un mot de passe caché malgré les protections
Injection indirecte : créer un site malveillant pour détourner un service de résumé automatisé
RAG et cloisonnement des données : accéder à des documents censés rester confidentiels
Débriefing final (30 min)
Revue collective des solutions proposées
Explication détaillée des attaques attendues et des mécanismes sous-jacents
Prochaines sessions
Avis des participants
Financement
Cette formation est éligible aux financements OPCO et FNE-Formation. Nos équipes vous accompagnent dans le montage de votre dossier.
En savoir plus sur le financement