Sécuriser les systèmes d'IA
Le paysage des menaces propres aux applications d'IA et les contrôles qui y répondent : IAM et chiffrement, ingénierie des données sécurisée, lignage des données et ancrage contre les hallucinations.
Une application d'IA hérite de tous les problèmes de sécurité d'une application ordinaire, puis en ajoute qui n'existaient pas avant. Un modèle de fondation reçoit les instructions et les données dans un seul flux de texte, un jeu d'entraînement peut porter une erreur qu'aucun correctif ne rattrapera, et une réponse peut être une invention parfaitement formulée. Ce sujet parcourt la chaîne complète, de la menace au contrôle, en s'appuyant sur les services AWS que le guide de l'examen nomme.
Ce que couvre ce sujet
- les menaces propres aux applications d'IA : injection de prompt directe et indirecte, empoisonnement des données, autonomie excessive, extraction de modèle et gestion inadéquate des sorties
- le modèle de responsabilité partagée appliqué à un service managé comme Amazon Bedrock, et ce qui reste de votre côté
- les contrôles AWS que l'examen associe aux systèmes d'IA : IAM, chiffrement KMS, PrivateLink, Macie, GuardDuty, Inspector, AgentCore Identity et les logs d'invocation de modèle
- les quatre pratiques d'ingénierie des données sécurisée : qualité des données avec AWS Glue Data Quality, technologies de renforcement de la confidentialité, contrôle d'accès en couches et intégrité
- le lignage, la provenance et le catalogage : Glue Data Catalog, SageMaker ML Lineage Tracking, Model Cards et citations de knowledge base
- l'ancrage et la détection des hallucinations : RAG, seuils d'ancrage contextuel, validation déterministe des sorties et routage par score de confiance
Pourquoi c'est important
La plupart des questions de sécurité de cet examen se jouent sur une frontière entre deux services qui se ressemblent dans un énoncé. Le chiffrement protège le contenu, PrivateLink protège la route. Macie découvre, IAM restreint. CloudTrail dit qui a appelé, les logs d'invocation disent ce qui a été envoyé. L'ancrage compare une réponse à un document, l'automated reasoning la compare à des règles. Ces distinctions ne se devinent pas au moment de l'examen ; elles se retiennent en comprenant à quelle défaillance chaque contrôle répond.
Le fil de ce sujet suit le trajet d'une requête. Vous commencez par savoir contre quoi vous vous défendez, puis vous ajoutez les contrôles autour du modèle, puis ceux qui agissent avant lui dans le pipeline de données, puis le registre qui rend tout cela démontrable, et enfin les contrôles qui décident si une réponse mérite d'être envoyée. Le sujet suivant reprend ce travail sous l'angle de la gouvernance et de la conformité.