Sécurité, conformité et gouvernance des solutions d'IA
Protéger les systèmes d'IA de bout en bout : IAM et chiffrement, défenses contre l'injection de prompt, gouvernance des données et services AWS qui prouvent la conformité.
Un modèle peut fonctionner parfaitement et rester un risque. Le prompt qui l'atteint peut cacher une charge d'injection, le jeu d'entraînement peut contenir des données clients que personne n'a autorisées pour cet usage, et la sortie peut être une invention formulée avec assurance qu'un système en aval traite comme un fait. Les failles de sécurité en IA ressemblent rarement à un modèle cassé.
Ce domaine couvre les contrôles qui ferment ces brèches. Il commence par les menaces propres aux applications d'IA, passe en revue les services AWS qui protègent les données et les accès à chaque étape, puis aborde la gouvernance : qui possède les données, quel cadre l'organisation doit respecter, et quelles preuves un auditeur va réclamer.
Ce que couvre ce domaine
- les menaces propres aux applications d'IA : injection de prompt, empoisonnement des données et vol de modèle
- sécuriser les charges de travail d'IA avec des services comme IAM, KMS, Macie et GuardDuty
- l'ingénierie des données sécurisée : classification, chiffrement en transit et au repos, accès au moindre privilège
- le lignage et la provenance des données, pour retracer l'origine des données d'entraînement
- le grounding et la détection des hallucinations, pour garder les sorties rattachées à des sources réelles
- les stratégies de gouvernance des données : rétention, résidence et cycle de vie
- les cadres et protocoles de gouvernance, et la façon dont les organisations régulées les appliquent à l'IA
- les services de gouvernance AWS : AWS Config, CloudTrail, Audit Manager et Artifact
Pourquoi c'est important
Ce domaine représente 14 pour cent de l'examen, et la plupart de ses questions reviennent à associer un service à un scénario : une exigence de conformité, quatre services AWS, et un seul qui produit la preuve demandée. CloudTrail enregistre qui a appelé quelle API, Audit Manager rassemble les preuves face à un cadre donné, Artifact fournit les rapports de conformité d'AWS, et Macie repère les données sensibles stockées dans S3. Dans un énoncé, ces quatre services se ressemblent. Ils ne sont pas interchangeables.
Ce domaine clôt le cours pour une raison. Tout ce qui précède vous a appris à construire quelque chose avec l'IA. Celui-ci vous apprend à le construire de façon qu'une équipe sécurité, une équipe juridique et un auditeur donnent tous leur accord, ce qui reste, dans la plupart des entreprises, la vraie porte entre un prototype qui marche et la production.