Las dimensiones de la IA responsable

Un modelo de crédito puede alcanzar el 94 por ciento de precisión y aun así ser la razón por la que tu empresa termina frente a un regulador. Aprueba menos solicitudes de un código postal que de otro. No puede explicarle un rechazo al cliente que lo recibió. Nadie dejó por escrito para qué fue construido, así que otro equipo lo reutiliza en un caso que nunca se probó. Nada de eso aparece en un puntaje de precisión.

La IA responsable es la práctica de diseñar, construir y operar IA de modo que los beneficios sean grandes y los riesgos queden manejados. AWS vuelve concreta esa práctica nombrando un conjunto de dimensiones contra las cuales evaluar un sistema, y el examen saca de ahí todo el vocabulario del Dominio 4. Esta lección te da las dimensiones, los límites entre las que más se confunden, y la herramienta de AWS asociada a cada una.

Las ocho dimensiones

AWS define la IA responsable con ocho dimensiones, que revisa y actualiza a medida que la tecnología cambia. Lee cada una como una pregunta que puedes hacerle a un sistema.

Dos cosas para notar. Primero, la lista no es un checklist que completas una vez. AWS la describe como un conjunto de dimensiones para revisar de forma sistemática, y revisa el conjunto a medida que la IA cambia. Segundo, el peso se mueve con la tecnología. La veracidad importa más en IA generativa que en un clasificador, porque un clasificador elige de un conjunto fijo de etiquetas mientras que un modelo de lenguaje puede producir una respuesta fluida, segura de sí misma y completamente inventada.

Los límites que el examen sí evalúa

Cuatro de estas dimensiones quedan lo bastante cerca entre sí como para que las preguntas de escenario vivan en los huecos que las separan.

Explicabilidad frente a transparencia. Este es el par que más se mezcla. La explicabilidad trata de una salida concreta: este crédito fue rechazado, y estas variables movieron la decisión. La transparencia trata del sistema completo: para qué sirve, en qué es malo, y el hecho de que estás hablando con una IA. Un modelo puede ser muy explicable para tu equipo de datos y completamente opaco para el cliente afectado. Las AI Service Cards son un artefacto de transparencia; las atribuciones SHAP son un artefacto de explicabilidad.

Safety frente a veracidad. Safety trata del daño: salida dañina, uso indebido, un chatbot convencido de dar instrucciones que debería rechazar. La veracidad trata de la verdad: respuestas correctas, sin alucinaciones. Se separan con limpieza. Un modelo que rechaza toda petición dudosa es seguro y puede seguir equivocándose en las que sí responde. Un modelo que da información exacta de dosis médicas es veraz y puede ser inseguro para exponer al público.

Equidad frente a controlabilidad. La equidad es una propiedad de los resultados. La controlabilidad es una propiedad de tu agarre operativo sobre el sistema. Medir una brecha de equidad sobre la que no puedes actuar es una falla de controlabilidad, no de equidad. Un escenario que dice "el equipo detectó el problema pero no pudo ajustar ni apagar el modelo" apunta a controlabilidad.

Gobernanza frente a transparencia. La gobernanza es interna: políticas, comités de revisión, aprobaciones, documentación de quién autorizó qué a lo largo de la cadena de proveedores y desplegadores. La transparencia mira hacia afuera: qué pueden saber sobre el sistema las personas afectadas. Puedes tener gobernanza pesada y transparencia cero.

El otro vocabulario del examen

La guía del examen lista las características de la IA responsable como sesgo, equidad, inclusividad, robustez, seguridad y veracidad. Esa lista no es otro marco, es un subconjunto escrito en palabras más simples. Conéctala una vez y deja de preocuparte por el desajuste.

• El sesgo es el modo de falla que la dimensión de equidad existe para atrapar.
• La equidad es la dimensión misma.
• La inclusividad aparece sobre todo como propiedad de los datasets y de para quién fue diseñado el sistema. Alimenta la equidad.
• La robustez es la segunda mitad de veracidad y robustez.
• Safety y veracidad ya son dimensiones nombradas.

Privacidad y seguridad, controlabilidad, gobernanza y transparencia siguen dentro del alcance del Dominio 4 aunque la lista corta de la guía no las repita.

Qué herramienta de AWS sirve a cada dimensión

Nombrar una dimensión vale poco si no puedes nombrar qué construirías. Este mapeo es lo más valioso de la lección para el examen, porque las preguntas del Dominio 4 suelen describir una falla y pedir el arreglo.

Vas a ver Clarify, Model Monitor, A2I y Guardrails en detalle en las próximas tres lecciones. Aprende ya el emparejamiento de columnas: es la forma de casi todas las preguntas del Dominio 4.

Selección responsable de modelo

La guía del examen pone dentro del desarrollo responsable un punto que sorprende: las consideraciones ambientales y de sostenibilidad pertenecen a la decisión de qué modelo elegir. La guía de sostenibilidad de AWS para cargas de IA generativa arranca con una pregunta que no tiene nada que ver con la calidad del modelo.

Pregunta primero si la IA generativa es siquiera la solución adecuada. AWS da el ejemplo de la búsqueda: si un usuario necesita encontrar información que ya existe, un motor de búsqueda se la entrega usando muchísimos menos recursos que un modelo generativo, que está construido para crear contenido nuevo. Ir a un modelo de lenguaje grande cuando bastaría una consulta, una regla o un clasificador pequeño es el desperdicio al que apunta la guía.

De ahí en adelante, la guía trata de ajustar el tamaño, no de maximizarlo:

• Elige un modelo del tamaño justo para la tarea en vez del más grande disponible. La cantidad de parámetros es un costo que pagas en cada petición.
• Reutiliza modelos preentrenados y enfoques de personalización más livianos en vez de entrenar desde cero cuando un camino más barato cumple el requisito.
• Despliega con optimización dinámica de recursos, es decir auto scaling y patrones serverless, para no pagar energía por capacidad ociosa.

Hay una coincidencia feliz que vale la pena nombrar: la opción sostenible y la opción barata suelen ser la misma opción. Un modelo más chico con menor latencia sobre infraestructura del tamaño justo gana en costo, en carbono y muchas veces en experiencia de usuario.

La selección responsable también incluye leer lo que publicó el proveedor. Una AI Service Card declara los casos de uso previstos y las limitaciones de un modelo. Elegir un modelo para un caso que su propia card excluye es una falla de IA responsable antes de servir la primera petición.

Consejos para el examen

• Las palabras "entender por qué salió esta salida específica" apuntan a explicabilidad. Las palabras "informar a las personas afectadas sobre el sistema" apuntan a transparencia. Es la confusión número uno del Dominio 4.
• "Incluso con entradas inesperadas o adversarias" es la frase firma de veracidad y robustez. Si una pregunta la usa, no respondas safety.
• "Monitorear y dirigir", "ajustar o apagar" y "supervisión humana de un sistema en producción" apuntan todas a controlabilidad.
• El impacto ambiental y la sostenibilidad son parte del alcance del examen dentro de la selección responsable de modelo, no un tema lateral. Una opción sobre elegir un modelo más pequeño para reducir el consumo de energía suele ser correcta y no un distractor.
• AWS nombra ocho dimensiones y dice que las actualiza con el tiempo. Trata como falsa cualquier pregunta que implique que el conjunto es permanente y universal.

Lo único que hay que llevarse: la IA responsable no es un valor que sostienes, es un conjunto de propiedades contra las cuales puedes probar un sistema, dimensión por dimensión, con una herramienta nombrada detrás de cada una. La próxima lección va tras la dimensión que falla más seguido y más temprano, la equidad, mirando de dónde sale el sesgo en primer lugar: los datos.