Desarrollo de sistemas de IA responsables

Un modelo puede tener 94 por ciento de precisión y aun así rechazar más solicitudes de un código postal que de otro, sin poder explicarle a nadie por qué. Este tema cubre las prácticas que convierten esa intuición incómoda en algo medible: las dimensiones con las que AWS define la IA responsable, el punto exacto donde entra el sesgo, las herramientas que le ponen un número, y los controles que se aplican en tiempo de inferencia cuando el modelo es generativo.

Qué cubre este tema

• las ocho dimensiones de la IA responsable de AWS, los límites entre las que más se confunden (explicabilidad frente a transparencia, safety frente a veracidad) y la herramienta de AWS asociada a cada una
• la selección responsable de modelo, incluidas las consideraciones ambientales y de sostenibilidad que la guía del examen pone dentro del alcance
• las vías por las que el sesgo entra al dataset: representación, historia, proxies, anotación y bucles de retroalimentación
• los dos significados de la palabra sesgo, el estadístico y el social, con underfitting y overfitting como firmas diagnósticas
• por qué definiciones de equidad que compiten entre sí no pueden cumplirse todas a la vez
• métricas de sesgo previas y posteriores al entrenamiento en SageMaker Clarify, con ejemplos resueltos de CI, DPL, DPPL y DI
• monitoreo después del despliegue con SageMaker Model Monitor, y revisión humana con Amazon A2I
• los seis tipos de política de Amazon Bedrock Guardrails, las fuerzas de filtro, el anclaje contextual y la API ApplyGuardrail
• los riesgos legales de la IA generativa y los compromisos de AWS que los reducen, desde la indemnización de propiedad intelectual hasta la privacidad de datos en Bedrock

Por qué es importante

Las preguntas de este tema casi nunca piden una definición. Te dan un modelo que se porta mal y cuatro servicios plausibles, y la respuesta depende de saber qué momento del ciclo de vida ataca cada herramienta: Clarify mide antes y después de entrenar, Model Monitor vigila la deriva en producción, A2I enruta el caso incierto a una persona, y Guardrails filtra lo que un modelo generativo dice en tiempo de inferencia. Confundir esas cuatro es la forma más común de perder puntos en el Dominio 4.

Fuera del examen, es el tema que decide si un modelo puede salir a producción. Los sectores regulados piden evidencia de pruebas de equidad antes del lanzamiento, los clientes preguntan por qué la decisión salió en su contra, y los equipos legales quieren saber quién responde cuando la salida se equivoca. Este tema te deja las tres respuestas listas.