Seguridad, cumplimiento y gobernanza para soluciones de IA
Protección integral de los sistemas de IA: IAM y cifrado, defensas contra prompt injection, gobernanza de datos y los servicios de AWS que demuestran el cumplimiento.
Un modelo puede funcionar perfecto y seguir siendo un riesgo para la empresa. El prompt que le llega puede traer una instrucción escondida, el conjunto de entrenamiento puede incluir registros de clientes que nadie autorizó, y la salida puede ser una invención que otro sistema toma como dato real. Las fallas de seguridad en IA casi nunca se ven como un modelo roto.
Este dominio cubre los controles que cierran esos huecos: la superficie de ataque propia de las aplicaciones de IA, los servicios de AWS que protegen datos y accesos en cada etapa, y la gobernanza que define quién es dueño de los datos y qué evidencia va a pedir un auditor.
Qué cubre este dominio
- amenazas propias de la IA: prompt injection, envenenamiento de datos y robo de modelos
- proteger cargas de trabajo de IA con servicios de AWS como IAM, KMS, Macie y GuardDuty
- ingeniería de datos segura: clasificación, cifrado en tránsito y en reposo, y privilegio mínimo
- linaje y procedencia de los datos, para rastrear de dónde salió cada dato de entrenamiento
- técnicas de grounding y detección de alucinaciones que atan la salida a fuentes reales
- estrategias de gobernanza de datos: retención, residencia y ciclo de vida
- marcos y protocolos de gobernanza, y cómo los aplican las organizaciones reguladas
- los servicios de gobernanza de AWS: AWS Config, CloudTrail, Audit Manager y Artifact
Por qué es importante
Este dominio es el 14 por ciento del examen, y casi todas sus preguntas emparejan servicios dentro de un escenario: un requisito de cumplimiento y cuatro servicios de AWS, donde solo uno produce la evidencia que te piden. CloudTrail registra quién llamó a qué API, Audit Manager arma la evidencia contra un marco, Artifact entrega los informes de cumplimiento de AWS, y Macie encuentra datos sensibles en S3. Los cuatro suenan intercambiables en el enunciado y no lo son.
El dominio cierra el curso por una razón. Todo lo anterior te enseñó a construir con IA; este te enseña a construirlo de modo que seguridad, legal y un auditor lo aprueben. En la mayoría de las empresas, esa es la puerta real hacia producción.