Design de aplicações com modelos de fundação

Você tem um modelo de fundação e um problema de negócio. Entre os dois fica uma sequência de decisões de design, e cada uma tem uma resposta certa que depende da restrição no cenário. Este tema percorre essas decisões na ordem em que aparecem ao construir: qual modelo escolher, como controlar a saída dele, como fundamentá-lo nos seus dados, quando adaptá-lo e quando deixá-lo agir. É o coração do domínio de maior peso do exame, e as questões são de julgamento, não de definição.

O que este tema cobre

• Os oito critérios que o exame nomeia para escolher um modelo de fundação pré-treinado, com a modalidade como o filtro duro mais comum
• Os parâmetros de inferência (temperature, top-k, top-p, comprimento de resposta, stop sequences) e a diferença entre remodelar e truncar a distribuição de tokens
• Retrieval Augmented Generation (RAG): as duas fases, o que as Amazon Bedrock Knowledge Bases automatizam e a fronteira com o fine-tuning
• Os bancos de dados vetoriais na AWS que guardam embeddings, e como casar o vector store com a stack que você já roda
• O espectro de customização, da engenharia de prompts ao continued pre-training, e por que você começa pela ponta barata
• Os agentes de IA nas aplicações, o loop de raciocinar, agir e observar, e onde um agente encaixa em vez de RAG puro

Por que isso importa

O Domínio 3 pesa 28 por cento do exame, mais que qualquer outro, e este tema carrega as decisões que aparecem repetidas nas questões de cenário. Um enunciado te dá uma situação, uma restrição e quatro opções plausíveis, e você precisa dizer qual abordagem encaixa: RAG ou fine-tuning, modelo grande ou pequeno, agente ou chamada simples. Reconhecer qual fronteira uma pergunta está cobrando é a habilidade que separa quem passa de quem só decorou termos. E são as mesmas escolhas que times reais fazem ao levar um modelo de fundação para produção, onde acertá-las é a diferença entre uma demonstração e um sistema em que as pessoas confiam.