Diseño de aplicaciones con modelos fundacionales
Las decisiones detrás de una aplicación con FM: selección del modelo, parámetros de inferencia, RAG con bases de datos vectoriales, compensaciones de personalización y agentes de IA.
Una vez que tienes un modelo fundacional, un conjunto de decisiones de diseño se interpone entre él y una funcionalidad que funcione. Qué modelo, ajustado cómo, anclado en los datos de quién, adaptado con qué método, y capaz de actuar o no. Este tema recorre esas decisiones en el orden en que las tomas, para que al final puedas mirar un escenario y saber sobre qué elección te está preguntando en realidad. Son las mismas elecciones que evalúa el dominio más pesado del examen, y las mismas que toman los equipos reales cuando ponen un modelo en producción.
Qué cubre este tema
- los ocho criterios que el examen nombra para elegir un modelo preentrenado, y la consecuencia de diseño de cada uno
- los parámetros de inferencia (temperature, top-k, top-p, largo de respuesta, secuencias de parada) y cómo controlan la salida de un modelo
- la generación aumentada por recuperación (RAG): anclar un modelo en tus propios datos en el momento de la consulta, y Amazon Bedrock Knowledge Bases
- las opciones de bases de datos vectoriales en AWS para guardar embeddings, y cómo emparejar una con tu stack
- el espectro de personalización, de la ingeniería de prompts al preentrenamiento continuo, y las concesiones de costo en cada paso
- los agentes de IA para tareas de varios pasos, cómo Amazon Bedrock Agents orquesta acciones, y cuándo un agente le gana a una llamada a secas
Por qué importa
Este tema vive dentro del dominio más pesado del examen, y sus preguntas se basan en escenarios, no en definiciones. Te dan una situación y cuatro opciones plausibles y te preguntan cuál encaja. Aprobar significa reconocer el único criterio, parámetro o enfoque sobre el que gira un escenario: la modalidad por encima de los puntajes de benchmark, RAG por encima del ajuste fino para hechos cambiantes, el modelo más chico que igual pasa, el agente para una tarea que abarca varios pasos. Acierta en esto y podrás razonar sobre una aplicación con modelo fundacional en lugar de memorizar hechos sobre ella, que es justo el criterio que premian tanto el examen como el trabajo.