GCP100MODELARMOR

Model Armor : Sécurisation des déploiements d'IA

Ce cours explique comment utiliser Model Armor pour protéger les applications d'IA, en particulier les grands modèles de langage (LLM). Le programme couvre l'architecture de Model Armor et son rôle dans l'atténuation des menaces telles que les URL malveillantes, l'injection de prompt, le jailbreaking, les fuites de données sensibles et la gestion incorrecte des sorties. Les compétences pratiques incluent la définition des paramètres de plancher, la configuration des modèles et l'activation de divers types de détection. Vous explorerez également des exemples de journaux d'audit pour trouver des détails sur les violations signalées.

✓ Formation officielle Google CloudNiveau Introduction⏱️ 0.5 jour (2h)

Ce que vous allez apprendre

Expliquer le but de Model Armor dans le portefeuille de sécurité d'une entreprise.
Définir les protections que Model Armor applique à toutes les interactions avec le LLM.
Configurer l'API de Model Armor et trouver les violations signalées.
Identifier comment Model Armor gère les prompts et les réponses.

Prérequis

Connaissance pratique des API
Connaissance pratique de la CLI Google Cloud
Connaissance pratique des principes fondamentaux de la sécurité cloud
Familiarité avec la console Google Cloud

Public cible

Ingénieurs en sécurité, Développeurs IA/ML, Architectes cloud

Programme de la Formation

6 modules pour maîtriser les fondamentaux

Objectifs

Rappeler les objectifs d'apprentissage du cours.

Sujets abordés

→Qu'est-ce que j'y gagne ?

Objectifs

Expliquer le but de Model Armor dans le portefeuille de sécurité d'une entreprise.
Identifier le sous-ensemble des 10 principales vulnérabilités OWASP LLM que Model Armor traite.
Identifier les concepts clés et l'architecture de Model Armor.
Associer les fonctionnalités de Model Armor aux risques de sécurité qu'elles atténuent.

Sujets abordés

→À propos de Model Armor
→Risques de sécurité des LLM

Activités

Vérification des connaissances

Quiz

Objectifs

Définir les protections que Model Armor applique à toutes les interactions avec le LLM.
Décrire les paramètres de plancher et expliquer leur fonctionnement.
Expliquer le but d'un modèle et son fonctionnement avec l'API.
Configurer les quatre types de détections dans le modèle.

Sujets abordés

→À propos de la personnalisation
→Paramètres de plancher
→Garde-fous et niveaux de confiance
→Modèles

Activités

Vérification des connaissances

Quiz

Objectifs

Configurer l'API de Model Armor et trouver les violations signalées.
Expliquer les prérequis nécessaires pour travailler avec l'API.
Décrire comment activer l'API.
Configurer la journalisation dans le modèle, explorer les types de journaux d'audit et les trouver dans SCC.
Expliquer comment trouver les violations des paramètres de plancher dans SCC et les résoudre.

Sujets abordés

→À propos de la configuration
→Configuration de l'API
→Violations signalées

Activités

Quiz

Objectifs

Identifier comment Model Armor intercepte et gère les prompts et les réponses.
Expliquer comment Model Armor examine les prompts et signale les résultats en fonction des indicateurs de sécurité du contenu.
Expliquer comment Model Armor examine les réponses du LLM et les met à jour en fonction des paramètres du modèle.
Exécuter diverses commandes pour nettoyer les prompts des utilisateurs contre différentes fonctionnalités de sécurité.

Sujets abordés

→Prompts et réponses
→Code de l'application

Activités

Quiz

Objectifs

Résumer les objectifs d'apprentissage du cours.

Sujets abordés

→Qu'ai-je appris ?

Formations associées

Ingénierie de la Sécurité sur AWS

La sécurité est une préoccupation tant pour les clients dans le cloud que pour ceux qui envisagent l'adoption du cloud. Une augmentation des cyberattaques et des fuites de données reste une priorité pour la plupart des professionnels du secteur. Le cours Ingénierie de la Sécurité sur AWS aborde ces préoccupations en vous aidant à mieux comprendre comment interagir et construire avec Amazon Web Services (AWS) de manière sécurisée. Dans ce cours, vous apprendrez à gérer les identités et les rôles, à gérer et à provisionner des comptes, et à surveiller l'activité des API pour détecter les anomalies. Vous apprendrez également à protéger les données stockées sur AWS. Le cours explore comment vous pouvez générer, collecter et surveiller les journaux pour aider à identifier les incidents de sécurité. Enfin, vous examinerez la détection et l'investigation des incidents de sécurité avec les services AWS.

3 j

Intermédiaire

Principes de base de la sécurité AWS

Ce cours couvre les concepts fondamentaux de la sécurité Amazon Web Services (AWS), y compris le contrôle d'accès AWS, les méthodes de chiffrement des données et la manière de sécuriser l'accès réseau à votre infrastructure AWS. En vous basant sur le modèle de responsabilité partagée d'AWS, vous apprendrez vos responsabilités en matière de mise en œuvre de la sécurité dans le Cloud AWS et quels services axés sur la sécurité sont à votre disposition. Vous apprendrez également pourquoi et comment les services de sécurité aident à répondre aux besoins de sécurité de votre organisation.

1 j

Fondamental