AWS Certified AI Practitioner
Attaques et risques liés aux prompts
Comment les attaquants retournent votre propre prompt contre vous : prompt injection, jailbreaking et prompt leaking, avec des défenses en couches dont Amazon Bedrock Guardrails.
Intermédiaire 18 minutes 4 Objectifs d'apprentissage
- Expliquer la prompt injection et pourquoi elle ressemble à l'injection SQL
- Distinguer prompt injection, jailbreaking et prompt leaking
- Décrire des défenses en couches : isolation de l'entrée, durcissement de l'instruction et Amazon Bedrock Guardrails
- Identifier qui porte le risque de sécurité des prompts dans le modèle de responsabilité partagée d'AWS