Engenharia de prompts
Escrever prompts que funcionam: estrutura, técnicas de zero-shot a chain-of-thought, boas práticas, riscos de ataque e gestão de prompts no Bedrock.
O mesmo modelo dá a um time uma resposta útil e a outro lixo. A diferença quase nunca é o modelo; é o prompt. A engenharia de prompts é a habilidade de montar essa entrada de texto com as partes certas nos lugares certos, para que um modelo de fundação faça o que você precisa de forma confiável, repetição após repetição. Este tema percorre esse ofício de ponta a ponta, da estrutura de um único prompt até operar prompts como código em produção.
O que este tema cobre
- as quatro partes de um prompt (instrução, contexto, entrada, indicador de saída) e como separar a instrução da entrada
- o prompting zero-shot e few-shot, o que é um shot e os templates de prompt com variáveis entre chaves duplas
- as técnicas nomeadas, do zero-shot ao chain-of-thought, e por que o chain-of-thought não é o mesmo que prompt chaining
- as boas práticas: ser específico, colocar a instrução no final, usar separadores, dar uma resposta de reserva e escrever prompts negativos
- os ataques de prompt (injection, jailbreaking, leaking), quem é dono do risco na responsabilidade compartilhada e a defesa em camadas com o Amazon Bedrock Guardrails
- o versionamento e a gestão com o Amazon Bedrock Prompt Management: rascunho mutável versus versão imutável, implantação e rollback
Por que isso importa
A engenharia de prompts é a alavanca mais barata e mais rápida que você tem sobre o comportamento de um modelo. Antes de pagar por fine-tuning ou montar um pipeline de RAG, um prompt melhor costuma resolver o problema, e a prova sabe disso: ela vai te dar um cenário em que uma saída sai errada e esperar que você escolha o conserto de prompt certo em vez de um modelo maior. Ela também espera que você diferencie pares que se confundem fácil, como chain-of-thought versus prompt chaining, ou injection versus jailbreaking. E como os prompts em produção grudam em texto que estranhos digitam, este tema é também onde a segurança entra em cena: saber que o prompt injection é sua responsabilidade, não da AWS, é tanto uma questão de prova quanto uma regra do mundo real.