Model Armor : Sécurisation des déploiements d'IA
Ce cours explique comment utiliser Model Armor pour protéger les applications d'IA, en particulier les grands modèles de langage (LLM). Le programme couvre l'architecture de Model Armor et son rôle dans l'atténuation des menaces telles que les URL malveillantes, l'injection de prompt, le jailbreaking, les fuites de données sensibles et la gestion incorrecte des sorties. Les compétences pratiques incluent la définition des paramètres de plancher, la configuration des modèles et l'activation de divers types de détection. Vous explorerez également des exemples de journaux d'audit pour trouver des détails sur les violations signalées.
Ce que vous allez apprendre
- Expliquer le but de Model Armor dans le portefeuille de sécurité d'une entreprise.
- Définir les protections que Model Armor applique à toutes les interactions avec le LLM.
- Configurer l'API de Model Armor et trouver les violations signalées.
- Identifier comment Model Armor gère les prompts et les réponses.
Prérequis
- Connaissance pratique des API
- Connaissance pratique de la CLI Google Cloud
- Connaissance pratique des principes fondamentaux de la sécurité cloud
- Familiarité avec la console Google Cloud
Public cible
- Ingénieurs en sécurité, Développeurs IA/ML, Architectes cloud
Programme de la Formation
6 modules pour maîtriser les fondamentaux
Objectifs
- Rappeler les objectifs d'apprentissage du cours.
Sujets abordés
- →Qu'est-ce que j'y gagne ?
Objectifs
- Expliquer le but de Model Armor dans le portefeuille de sécurité d'une entreprise.
- Identifier le sous-ensemble des 10 principales vulnérabilités OWASP LLM que Model Armor traite.
- Identifier les concepts clés et l'architecture de Model Armor.
- Associer les fonctionnalités de Model Armor aux risques de sécurité qu'elles atténuent.
Sujets abordés
- →À propos de Model Armor
- →Risques de sécurité des LLM
Activités
Vérification des connaissances
Quiz
Objectifs
- Définir les protections que Model Armor applique à toutes les interactions avec le LLM.
- Décrire les paramètres de plancher et expliquer leur fonctionnement.
- Expliquer le but d'un modèle et son fonctionnement avec l'API.
- Configurer les quatre types de détections dans le modèle.
Sujets abordés
- →À propos de la personnalisation
- →Paramètres de plancher
- →Garde-fous et niveaux de confiance
- →Modèles
Activités
Vérification des connaissances
Quiz
Objectifs
- Configurer l'API de Model Armor et trouver les violations signalées.
- Expliquer les prérequis nécessaires pour travailler avec l'API.
- Décrire comment activer l'API.
- Configurer la journalisation dans le modèle, explorer les types de journaux d'audit et les trouver dans SCC.
- Expliquer comment trouver les violations des paramètres de plancher dans SCC et les résoudre.
Sujets abordés
- →À propos de la configuration
- →Configuration de l'API
- →Violations signalées
Activités
Quiz
Objectifs
- Identifier comment Model Armor intercepte et gère les prompts et les réponses.
- Expliquer comment Model Armor examine les prompts et signale les résultats en fonction des indicateurs de sécurité du contenu.
- Expliquer comment Model Armor examine les réponses du LLM et les met à jour en fonction des paramètres du modèle.
- Exécuter diverses commandes pour nettoyer les prompts des utilisateurs contre différentes fonctionnalités de sécurité.
Sujets abordés
- →Prompts et réponses
- →Code de l'application
Activités
Quiz
Objectifs
- Résumer les objectifs d'apprentissage du cours.
Sujets abordés
- →Qu'ai-je appris ?
Processus Qualité
L'engagement de SFEIR Institute : une démarche d'excellence pour garantir la qualité et la réussite de toutes nos formations. En savoir plus sur notre démarche qualité
- Lectures / Apports théoriques (Slides) — Présentation de concepts via des supports visuels (PowerPoint, PDF).
- Démonstration technique (Démos) — Le formateur réalise une manipulation ou une procédure devant les apprenants.
- Laboratoires dirigés (Labs) — Mise en pratique guidée sur logiciel, machine ou environnement technique.
- Quiz / QCM — Test rapide de connaissances (format papier ou numérique type Kahoot/Klaxoon).
L'atteinte des objectifs de la formation est évaluée à plusieurs niveaux pour garantir la qualité de la prestation :
- Évaluation continue des acquis : Vérification des connaissances tout au long de la formation via des méthodes participatives (en fonction de la formation: quiz, exercices pratiques, mises en situation) sous la supervision du formateur.
- Mesure de la progression : Dispositif d'auto-évaluation comparatif comprenant un diagnostic initial pour situer le niveau de départ, suivi d'une évaluation finale pour valider l'évolution des compétences.
- Évaluation de la qualité : Questionnaire de satisfaction en fin de session pour mesurer la pertinence et l'efficacité de la formation ressentie par les participants.
Prochaines sessions
Aucune date ne vous convient ?
Nous organisons régulièrement de nouvelles sessions. Contactez-nous pour connaître les prochaines dates disponibles ou pour organiser une session à la date de votre choix.
S'inscrire à une date personnaliséeFormer plusieurs collaborateurs
- Tarifs dégressifs (plusieurs places)
- Session privée ou sur-mesure
- En présentiel ou à distance