Segurança, conformidade e governança para soluções de IA
Proteção de ponta a ponta para sistemas de IA: IAM e criptografia, defesas contra prompt injection, governança de dados e os serviços da AWS que comprovam a conformidade.
Um modelo pode funcionar perfeitamente e ainda ser um risco para a empresa. O prompt que chega até ele pode carregar uma instrução escondida, o conjunto de treinamento pode incluir registros de clientes que ninguém autorizou para esse uso, e a saída pode ser uma invenção convincente que outro sistema trata como fato. Falha de segurança em IA quase nunca se parece com um modelo quebrado.
Este domínio cobre os controles que fecham essas brechas. Ele começa pela superfície de ataque própria das aplicações de IA, passa pelos serviços da AWS que protegem dados e acesso em cada etapa e chega à governança: quem é dono dos dados, qual framework a organização precisa seguir e que evidência um auditor vai pedir.
O que este domínio cobre
- ameaças próprias das aplicações de IA, como prompt injection, envenenamento de dados e roubo de modelo
- proteger cargas de trabalho de IA com serviços da AWS como IAM, KMS, Macie e GuardDuty
- engenharia de dados segura: classificação, criptografia em trânsito e em repouso, e privilégio mínimo
- linhagem e proveniência dos dados, para rastrear de onde veio cada dado de treinamento
- técnicas de grounding e detecção de alucinações que prendem a saída a fontes reais
- estratégias de governança de dados: retenção, residência e ciclo de vida
- frameworks e protocolos de governança, e como organizações reguladas os aplicam à IA
- os serviços de governança da AWS: AWS Config, CloudTrail, Audit Manager e Artifact
Por que isso importa
Este domínio vale 14 por cento do exame, e a maior parte das questões pede o serviço certo dentro de um cenário: um requisito de conformidade e quatro serviços da AWS, dos quais só um produz a evidência pedida. O CloudTrail registra quem chamou qual API, o Audit Manager monta a evidência contra um framework, o Artifact entrega os relatórios de conformidade da AWS e o Macie encontra dados sensíveis parados no S3. Os quatro parecem intercambiáveis no enunciado e não são.
O domínio fecha o curso por um motivo. Tudo que veio antes ensinou você a construir alguma coisa com IA. Este ensina a construir de um jeito que o time de segurança, o jurídico e um auditor aprovem, e na maioria das empresas é esse o portão real entre um protótipo que funciona e produção.