Concevoir des applications avec des modèles de fondation
Les décisions derrière une application FM : sélection du modèle, paramètres d'inférence, RAG avec bases de données vectorielles, arbitrages de personnalisation et agents IA.
Une fois que vous avez un modèle de fondation, une série de décisions de conception se dresse entre lui et une fonction qui marche. Quel modèle, réglé comment, ancré dans les données de qui, adapté par quelle méthode, et capable d'agir ou non. Ce thème parcourt ces décisions dans l'ordre où vous les prenez, pour qu'à la fin vous puissiez regarder un scénario et savoir de quel choix il parle vraiment. Ce sont les choix que le plus lourd domaine de l'examen teste, et les mêmes que les vraies équipes font quand elles mettent un modèle en production.
Ce que couvre ce thème
- Les huit critères que l'examen nomme pour choisir un modèle pré-entraîné, et la conséquence de conception de chacun
- Les paramètres d'inférence (temperature, top-k, top-p, longueur de réponse, séquences d'arrêt) et comment ils contrôlent la sortie d'un modèle
- La génération augmentée par récupération (RAG) : ancrer un modèle dans vos propres données au moment de la requête, et Amazon Bedrock Knowledge Bases
- Les options de base de données vectorielle sur AWS pour stocker des embeddings, et comment en aligner une sur votre pile
- Le spectre de personnalisation, de l'ingénierie de prompt au continued pre-training, et les arbitrages de coût à chaque étape
- Les agents IA pour les tâches multi-étapes, comment Amazon Bedrock Agents orchestre les actions, et quand un agent l'emporte sur un simple appel
Pourquoi c'est important
Ce thème se situe au cœur du domaine le plus lourd de l'examen, et ses questions sont fondées sur des scénarios plutôt que sur des définitions. On vous remet une situation et quatre options plausibles, et on vous demande laquelle convient. Réussir veut dire reconnaître le seul critère, paramètre ou approche sur lequel un scénario se décide : la modalité plutôt que les scores de benchmark, le RAG plutôt que le fine-tuning pour des faits changeants, le plus petit modèle qui passe encore, l'agent pour une tâche qui s'étend sur plusieurs étapes. Réussissez ces choix et vous savez raisonner sur une application de modèle de fondation au lieu d'en mémoriser des faits, ce qui est exactement le jugement que l'examen et le métier récompensent.
