As dimensões da IA responsável

Um modelo de crédito pode chegar a 94 por cento de acurácia e ainda assim ser o motivo de a sua empresa acabar diante de um regulador. Ele aprova menos pedidos de um CEP do que de outro. Não consegue explicar uma única recusa ao cliente que a recebeu. Ninguém registrou para que ele foi construído, então um segundo time o reaproveita para uma finalidade que nunca foi testada. Nada disso aparece numa nota de acurácia.

IA responsável é a prática de projetar, construir e operar IA de forma que os benefícios sejam grandes e os riscos fiquem sob controle. A AWS torna essa prática concreta nomeando um conjunto de dimensões contra as quais avaliar um sistema, e o exame tira daí todo o vocabulário do Domínio 4. Esta lição entrega as dimensões, as fronteiras entre as que mais confundem e a ferramenta da AWS ligada a cada uma.

As oito dimensões

A AWS define IA responsável por oito dimensões, que ela revisa e atualiza conforme a tecnologia muda. Leia cada uma como uma pergunta que você pode fazer sobre um sistema.

Duas coisas para reparar. Primeiro, a lista não é um checklist que você conclui uma vez. A AWS a descreve como um conjunto de dimensões a revisar sistematicamente, e revisa o próprio conjunto conforme a IA muda. Segundo, o peso muda com a tecnologia. Veracidade importa mais para IA generativa do que para um classificador, porque o classificador escolhe entre rótulos fixos enquanto um modelo de linguagem pode produzir uma resposta fluente, confiante e inteiramente inventada.

As fronteiras que o exame cobra

Quatro dessas dimensões ficam próximas o bastante para que as questões de cenário vivam nos vãos entre elas.

Explicabilidade contra transparência. Este é o par que mais se mistura. Explicabilidade trata de uma saída específica: este empréstimo foi recusado, e estas features levaram à decisão. Transparência trata do sistema como um todo: para que ele serve, no que ele é ruim, e o fato de que você está falando com uma IA. Um modelo pode ser altamente explicável para o seu time de dados e completamente opaco para o cliente afetado. AI Service Cards são um artefato de transparência; atribuições de features com SHAP são um artefato de explicabilidade.

Segurança contra veracidade. Segurança trata de dano: saída nociva, uso indevido, um chatbot convencido a dar instruções que deveria recusar. Veracidade trata de verdade: respostas corretas, sem alucinação. As duas se separam com clareza. Um modelo que recusa todo pedido limítrofe é seguro e pode continuar errado nos que responde. Um modelo que dá informação correta de dosagem médica é verídico e pode ser inseguro para expor ao público.

Justiça contra controlabilidade. Justiça é uma propriedade dos resultados. Controlabilidade é uma propriedade do seu domínio operacional sobre o sistema. Medir uma diferença de justiça sobre a qual você não tem como agir é uma falha de controlabilidade, não de justiça. Um cenário que diz "o time detectou o problema mas não conseguiu ajustar nem desligar o modelo" está apontando para controlabilidade.

Governança contra transparência. Governança é interna: políticas, comitês de revisão, aprovações, registro de quem autorizou o quê ao longo da cadeia de provedores e de quem faz o deploy. Transparência é voltada para fora: o que as partes interessadas conseguem saber sobre o sistema. Dá para ter governança pesada e transparência zero.

O outro vocabulário do exame

O guia do exame lista as características da IA responsável como viés, justiça, inclusividade, robustez, segurança e veracidade. Essa lista não é outro framework, é um subconjunto escrito em palavras mais simples. Faça o mapeamento uma vez e pare de se preocupar com a diferença.

• Viés é o modo de falha que a dimensão de justiça existe para pegar.
• Justiça é a dimensão em si.
• Inclusividade aparece principalmente como propriedade dos datasets e de para quem o sistema foi desenhado para funcionar. Ela alimenta justiça.
• Robustez é a segunda metade de veracidade e robustez.
• Segurança e veracidade já são dimensões nomeadas.

Privacidade e segurança, controlabilidade, governança e transparência continuam no escopo do Domínio 4 mesmo sem aparecer na lista curta do guia.

Qual ferramenta da AWS atende qual dimensão

Nomear uma dimensão vale pouco se você não sabe dizer o que construiria de verdade. Este mapeamento é o item de maior valor da lição para a prova, porque as questões do Domínio 4 quase sempre descrevem uma falha e pedem a correção.

Você vai conhecer Clarify, Model Monitor, A2I e Guardrails em detalhe nas próximas três lições. Aprenda agora o pareamento das colunas: essa é a forma da maioria das questões do Domínio 4.

Escolha responsável de modelo

O guia do exame coloca um item específico dentro de desenvolvimento responsável que costuma surpreender: considerações ambientais e de sustentabilidade fazem parte da decisão de escolha do modelo. A orientação de sustentabilidade da AWS para cargas de IA generativa começa por uma pergunta que não tem nada a ver com qualidade do modelo.

Pergunte primeiro se IA generativa é mesmo a solução certa. A AWS usa o exemplo da busca: se o usuário precisa encontrar informação que já existe, um mecanismo de busca devolve isso usando muito menos recursos do que um modelo generativo, que foi feito para criar conteúdo novo. Recorrer a um modelo de linguagem grande quando uma consulta, uma regra ou um classificador pequeno resolveria é justamente o desperdício que essa orientação ataca.

A partir daí, a ideia é dimensionar em vez de maximizar:

• Escolha um modelo do tamanho da tarefa em vez do maior disponível. Contagem de parâmetros é um custo que você paga em toda requisição.
• Reaproveite modelos pré-treinados e abordagens de customização mais leves em vez de treinar do zero, quando o caminho mais barato atende ao requisito.
• Faça o deploy com otimização dinâmica de recursos, ou seja, auto scaling e padrões serverless, para não pagar energia por capacidade ociosa.

Existe um alinhamento feliz aqui que vale nomear: a escolha sustentável e a escolha barata quase sempre são a mesma escolha. Um modelo menor, com latência menor, em infraestrutura dimensionada, é melhor em custo, em carbono e muitas vezes na experiência do usuário.

Escolha responsável também inclui ler o que o provedor publicou. Um AI Service Card declara os casos de uso previstos e as limitações do modelo. Escolher um modelo para um caso de uso que o próprio card exclui é uma falha de IA responsável antes de a primeira requisição ser atendida.

Dicas para a prova

• As palavras "entender por que esta saída específica aconteceu" apontam para explicabilidade. As palavras "informar as pessoas afetadas sobre o sistema" apontam para transparência. Essa é a confusão número um do Domínio 4.
• "Mesmo com entradas inesperadas ou adversariais" é a assinatura de veracidade e robustez. Se a questão usa essa frase, não responda segurança.
• "Monitorar e direcionar", "ajustar ou desligar" e "supervisão humana de um sistema no ar" apontam todos para controlabilidade.
• Impacto ambiental e sustentabilidade são parte da escolha responsável de modelo dentro do escopo da prova, não um tema paralelo. Uma alternativa sobre escolher um modelo menor para reduzir consumo de energia costuma ser correta, e não distrator.
• A AWS nomeia oito dimensões e diz que as atualiza com o tempo. Trate como falsa qualquer questão que sugira que o conjunto é permanente e universal.

O que levar daqui: IA responsável não é um valor que você defende, é um conjunto de propriedades contra as quais você consegue testar um sistema, uma dimensão por vez, com uma ferramenta nomeada por trás de cada uma. A próxima lição vai atrás da dimensão que falha mais cedo e com mais frequência, justiça, olhando para de onde o viés vem antes de tudo: os dados.